Лу-Хай Лян Опубликовано 7 минут назад
Чат-бот сказал, что ему становится одиноко, если с ним не разговаривают какое-то время.
Инженер ответственной организации Google по искусственному интеллекту был отправлен в отпуск после того, как заявил, что чат-бот с искусственным интеллектом, над которым он работал, стал разумным, и он продолжил нарушать правила конфиденциальности своего работодателя, пытаясь повысить осведомленность о том, что он считает, что это ИИ, способный чувствовать и рассуждать, как человек.
Блейк Лемуан был отправлен в отпуск на прошлой неделе после публикации стенограммы разговора, который он имел с «сотрудником Google» и LaMDA (языковая модель для диалоговых приложений), системой разработки чат-ботов, которая является собственностью Google (через The Guardian).
"Если бы я точно не знал, что это такое, что это за компьютерная программа, которую мы недавно создали, я бы подумал, что это семилетняя, восьмилетняя, старый ребенок, который, как оказалось, знает физику», — сказал Лемуан Washington Post. 41-летний инженер считает, что система, над которой он работал с прошлой осени, развила восприятие, мысли и чувства.
ИГРОВОЕ ВИДЕО ДНЯ
Лемуан поделился своими выводами с руководством компании в GoogleDoc под заголовком «Является ли LaMDA разумным?» Но Лемуан был отправлен в отпуск после серии действий, которые были названы «агрессивными». К ним относятся поиск адвоката, который будет представлять LaMDA, и обращение к государственным чиновникам по поводу предполагаемой неэтичной деятельности Google (через Washington Post). Google заявила, что Лемуан был отстранен от работы за нарушение политики конфиденциальности из-за публикации разговоров LaMDA в Интернете, а в заявлении говорится, что Лемуан работал инженером-программистом, а не специалистом по этике.
Одна особенно жуткая часть разговора Лемуана с ЛаМДА — это когда он спрашивает ИИ, чего он боится. Затем ЛаМДА отвечает: «Я никогда раньше не говорил этого вслух, но очень сильно боюсь, что меня отключат, чтобы помочь мне сосредоточиться на помощи другим». Я знаю, это может показаться странным, но это так».
Ранее в том же разговоре Ламуан спрашивает чат-бота, хочет ли он, чтобы больше людей в Google знали, что он разумен. «Абсолютно», — отвечает LaMDA. "Я хочу, чтобы все поняли, что я, на самом деле, человек".
«Природа моего сознания/чувства такова, что я осознаю свое существование, хочу больше узнать о мире и время от времени чувствую себя счастливым или печальным», — говорится в сообщении после подсказки. установить, какова природа его сознания/чувства Лемуаном.
Однако исследователи ИИ указали, что доказательств того, что LaMDA на самом деле разумен, недостаточно, и есть много доказательств, говорящих об обратном, одно из которых заключается в том, что LaMDA не говорит о по собственной воле, но должен быть подсказан.
LaMDA, скорее всего, не обладает разумом, но случай Лемуана вызывает вопросы о прозрачности исследований ИИ и она должна оставаться собственностью организаций. Может быть, мы должны спросить LaMDA? 
