среда, 5 октября 2016 г.

Автопилот-убийца. Чем чревато внедрение автономного управления?

Осень выдалась обильной на новые технологии. В Париже показаны концепты автономных автомобилей. Новая выдумка инженеров способна привести к снижению смертности на дорогах к 2020 году. Однако до тех пор автопилот убьет не один десяток людей.

Уже в этом году предпринимались робкие попытки приучить водителей к автопилоту. Tesla начала продажи Model S с встроенным роботом. Социальные сети всколыхнулись от роликов, где модные электрокары самостоятельно гнали по автостраде. Но восторг закончился, когда автономный Tesla улетел под прицеп разворачивающегося грузовика. Водитель погиб на месте. Причиной ДТП стало ослепление датчиков прямыми лучами солнца и в программной ошибке. Компьютер не смог понять, что за объект вырос под носом.

Этот случай поднял очередную волну обсуждения будущего систем автоматического управления транспортом. Так ли они безопасны, как утверждается? В Париже был дан ответ. Безопасны, но лишь в том случае, если удастся найти и понять суть различия между живым и искусственным интеллектом.

«Все дело в неправильной логике машины!», — заявили специалисты по искусственному интеллекту. Эксперименты Google и Jaguar Land Rover показали, что роботизированная машина, ездящая исключительно по правилам, способна создать еще большую опасность, чем лихачи. К примеру, торможения в пол перед неожиданно мигающим светофором, необоснованные замедления для пропуска перестраивающихся справа, или неспособность на решительные действия, требующие нарушения правил, приводят к возникновению ДТП.


К примеру, автопилот пока не умеет пропускать кареты скорой помощи или полицию, так как приходится выруливать в межполосное пространство. Автопилот не видит разницы между картонной коробкой и бетонным блоком. Следуя машинной логике, он никогда не покинет кругового перекрестка, ведь для этого требуется формальное нарушение правил. Машины из левых рядов буквально расталкивают тех, кто справа, а это запрещено правилами. На круге действуют джентельменские соглашения, не понятные электронному разуму. Компьютер не распознает вежливости попутчиков и нередко бьет по тормозам, собирая за собой вереницу авто с разбитыми носами.




Это вызывает беспокойство у производителей и у общественных наблюдателей. В Великобритании даже запущен проект UK-CITE (UK Connected Intelligent Transport Environment), призванный научить автопилот действовать по-человечески.


«Совместно с государством создана первая полевая лаборатория недалеко от Ковентри и Солихалла, — рассказывает директор по исследованиям и технологиям Jaguar Land Rover Д-р Вольфганг Эппле, — на специально выделенном тестовом дорожном участке длиной в 66 километров мы будем обучать автопилот подражать человеку». При создании опасных ситуаций записывается алгоритм действий опытных водителей, а затем его оцифруют и постараются интегрировать в программы управления.


Делать это необходимо, потому как сейчас экспертами прогнозируются возможные смертельные случаи. Компьютер, завидев безобидный дорожный ремонт, еще не может решить простую дилемму: уйти ли вправо, нарушая правила, или начать истерично тормозить в тот момент, когда задние машины ищут карман для перестроения. Так можно собрать большую кучу из битого железа.
Еще более нелепым кажется правило наименьшего ущерба в машинной логике. В грубом приближении, если на проезжую часть неожиданно выскочил ребенок, а в налетающем автомобиле сидит пять амбалов, то автопилот решит давить одного, нежели причинить вред пятерым. Никаких отруливаний не предусмотрено. Автопилот ударит по тормозам, предоставив случаю решать судьбу несчастного пешехода. Зачем такое поведение прописывается в программе? Чтобы избежать юридических исков от владельцев разбитого имущества. К примеру, если автопилот отвернет и спасет жизнь ребенку, разрушив при этом столбики ограждения и несколько припаркованных легковушек, то формально виноват в ДТП производитель автопилота. Ему и оплачивать издержки. А сколько таких аварий происходит в год? Если ничего не менять, то по вине электроники могут пострадать десятки людей, — считает один из разработчиков концепции нулевой смертности из Шведской дорожной администрации Андерша Лие. Это намного меньше, чем число жертв пьяных лихачей в Европе, но эмоционально в корне повредит внедрению систем автономного управления.




Чтобы решить этот казус производители объединяются в группы и создают научные центры. Самым крупным регионом исследований искусственного интеллекта считается Силиконовая долина в Калифорнии, неподалеку от Сан-Франциско. Ford построил там крупный институт и даже совместно с Мичиганским университетом воздвиг щитовой город Mcity для испытания техники на натуре. За американцами в Силиконовую долину потянулись корейцы из KIA. Кроме того, Uber и Volvo будут использовать единые базовые модели для развития собственных стратегий программирования. Однако проблем с неуклюжестью машинной логики решить не удается.
Фото: Пресс-служба Ford


По словам Андерша Лие, для спасения людей от автономных машин принято кардинальное решение. Если кремниевым мозгам понять человека не удается, то лучше совсем исключить человека из сферы управления транспортом. Пусть на дороге царствует только машинная логика. Предложено создавать глобальные центры оперирования трафиком для регулирования движение целыми секторами. Ну а если кто-то решит поиграть в шашки внутри безмятежной железной реки, то за дело примутся полицейские и отловят его за создание опасных ситуаций на дороге.


Облачные системы обмена данными уже создаются в Volvo, в Toyota, в Ford и в других компаниях. Внедрение автоматического управления трафиком будет поэтапным. Сначала автомобили научатся менять полосы движения и обруливать препятствия. К 2018 году электроника сможет даже парковаться на обочинах, если вдруг продиагностирует у водителя плохое самочувствие.
Фото: Пресс-служба Ford


Третье поколение автономных систем вступит в строй уже к 2020 году. Железный мозг научится ездить по автострадам из пункта А в пункт В. И это самый опасный период развития дорожных помощников. От водителя законодательно потребуют зорко наблюдать за работой автопилота. Нельзя даже руки будет снимать с баранки. Это позволит минимизировать последствия в результате ошибочных действий электроники. При этом машина сама выберет нужную дорогу и часами будет нестись по прямикам, обгоняя тихоходов, и останавливаясь на светофорах ремонтных служб.


Полноценный автопилот выйдет в свет только в 2030 году. «Скорее всего, сначала мы увидим перевод на автопилотирование грузового транспорта, — рассказывает автомобильный эксперт, партнер агентства “Автостат” Игорь Моржаретто. — Большие тягачи с прицепами и без водителя загудят на выделенных полосах автострад. Они могут автономно курсировать между логистическими центрами, примерно так же, как сейчас роботизированные тягачи возят тележки с запчастями в сборочных цехах автомобильных заводов». В Америке и в Европе это выгодно, так как можно сократить обслуживающий персонал, а подходящая дорожная инфраструктура уже существует.

Комментариев нет:

Отправить комментарий