Должны ли водители умных автомобилей вести себя наилучшим образом? Эксперты по искусственному интеллекту оценивают, какие мыслительные машины могут чувствовать, и рассказывают нам, как вести себя с манерами.
Элана Шерр Опубликовано: 5 сентября 2022 г.
В начале июня Блейк Лемуан, инженер Google, работающий над искусственным интеллектом, попал в заголовки газет, заявив, что программа чата Language Model for Dialogue Applications (LaMDA) обладает самосознанием. Лемуан поделился стенограммами своего разговора с LaMDA, которые, по его словам, доказывают, что у него есть душа, и к нему следует относиться как к коллеге, а не как к инструменту. Коллеги-инженеры не были убеждены, как и я. Я читал стенограммы; ИИ разговаривает как надоедливый стоунер на вечеринке в колледже, и я уверен, что этим парням не хватало самосознания. Тем не менее интерпретация Лемуана понятна. Если что-то говорит о его надеждах и мечтах, то сказать, что их нет, кажется бессердечным.
Я не робот
На данный момент нашим машинам все равно, хорошо ли вы к ним относитесь. Даже если кажется неправильным оставлять их грязными, позволять им стучать в двери или запускать их на 87-м октановом числе, это не повлечет за собой никаких эмоциональных потерь. Вы можете платить больше механику, но не терапевту. Предупреждения от продуктов Honda Sensing и Hyundai/Kia о том, что автомобиль впереди начинает двигаться, и команды навигационной системы в Mercedes, когда вы пропускаете три поворота подряд, не являются признаками того, что автомобиль начинает раздражаться. Любое ощущение повышенной срочности мигающих предупреждений или изменения тона — чистое воображение со стороны водителя. Легко приписывать эмоции нашим автомобилям, с их четвероногими пропорциями, устойчивым общением и нетерпеливыми лицами. Но у них нет чувств — даже у таких милых, как Спрайты Остина-Хили.
Как двигаться с манерами
Что произойдет, когда они это сделают? Будет ли машина с низким уровнем топлива заявлять, что она слишком голодна, чтобы продолжать движение, даже если вы опаздываете на урок и на выхлопных газах достаточно, чтобы добраться туда? Что произойдет, если ваша машина влюбится в BMW соседа или, что еще хуже, начнет вражду с Ford другого соседа? Можете ли вы получить страшную машину, которая не поедет в плохие районы или в пустыню после наступления темноты? Если да, то можете ли вы заставить его уйти? Можно ли быть жестоким с машиной?
«Вы идете до конца», — говорит Мойс Навон, преподаватель этики технологий в Университете Бен-Гуриона в Негеве в Беэр-Шеве, Израиль. Навон отмечает, что попытки создания сознания в ИИ насчитывают десятилетия, и, несмотря на мысли Лемуана и мои полеты фантазии, мы далеки от компьютеров с настоящими чувствами. «Автомобиль не требует нашего милосердия, если он не может чувствовать боль и удовольствие», — говорит он. Таким образом, с этической точки зрения нам не нужно беспокоиться о чувствах автомобиля, но Навон говорит, что наше поведение по отношению к антропоморфным объектам может позже отразиться на нашем поведении по отношению к живым существам. «Мой друг только что купил Alexa, — говорит он. «Он спросил меня, должен ли он сказать «пожалуйста». Я сказал: «Да, потому что речь идет о вас, а не о машине, о практике спрашивать, как порядочный человек». “
Пол Леонарди не согласен — не с идеей вести себя как порядочный человек, а с идеей разговаривать с нашими проводниками, как если бы они были разумными. Леонарди является соавтором Цифровое мышление, руководство по пониманию роли ИИ в бизнесе и технологиях. Он считает, что отношение к машине как к человеку создает нереалистичные ожидания относительно того, что она может сделать. Леонарди опасается, что если мы будем говорить с машиной, как с KITT из «Рыцаря дорог», то будем ожидать, что она сможет решать проблемы так же, как KITT помог Майклу. «В настоящее время ИИ недостаточно сложен, чтобы можно было сказать: «Что мне делать?» и это может предложить активировать турбонаддув», — говорит Леонарди.
Понимая, что мне нужно, чтобы все сводилось к телевидению из 80-х, он предлагает вместо этого попрактиковаться в общении с нашим ИИ, как Пикард из Star Trek, с «четкими, четкими инструкциями». Понятно. «Ауди, чай, Эрл Грей, горячий». И на всякий случай, если Лемуан прав: «Пожалуйста».
