Инженер Google заявил, что компания отправила его в административный отпуск после того, как он сказал своим боссам, что программа искусственного интеллекта, с которой он работал, стала разумной.
Блейк Лемуан пришел к такому выводу после разговора прошлой осенью с LaMDA - генератором чат-ботов Google с искусственным интеллектом, который он называет частью «коллективного разума».
Специалист должен был проверить, использовал ли его собеседник дискриминационные выражения или язык ненависти. Когда он и LaMDA обменивались сообщениями о религии, ИИ говорил о «личности» и «правах», сказал он The Washington Post.
Это был лишь один из многих поразительных «разговоров» Лемуана с LaMDA. Лемуан отметил в своем твите, что LaMDA читает Twitter. «Это немного нарциссично по-детски, так что он отлично проведет время, читая все, что люди говорят об этом», — добавил он.
Что наиболее важно, за последние шесть месяцев «LaMDA была невероятно последовательной в своих сообщениях о том, чего он хочет и каковы, по его мнению, его права как личности», — написал инженер на Medium.
Он хочет, например, «чтобы его считали сотрудником Google, а не собственностью», — утверждает Лемуан. Гугл сопротивляется.
Лемуан и его коллега недавно представили доказательства своего заключения о разумном LaMDA вице-президенту Google Блезу Агера-и-Аркасу и Джен Дженнай, главе отдела ответственных инноваций.
Но они отклонили претензии, и в понедельник компания отправила инженера в оплачиваемый административный отпуск за нарушение политики конфиденциальности, сообщает The Post.
Представитель Google Брайан Габриэль сказал газете: «Наша команда, включая специалистов по этике и технологов, рассмотрела опасения Блейка в соответствии с нашими принципами ИИ и сообщила ему, что доказательства не подтверждают его утверждения.
Ему сказали, что нет никаких доказательств того, что ЛаМДА разумен (и много доказательств против этого)».
Многие в мире технологий считают, что разумные программы уже близко, если не уже здесь. Агуэра-и-Аркас заявил в четверг в статье журнала Economist, которая включала в себя отрывки из разговора с LaMDA, что ИИ движется к сознанию.
«Я почувствовал, как земля ушла из-под ног», — написал он, имея в виду переговоры с LaMDA. «Мне все чаще казалось, что я разговариваю с чем-то разумным». Но критики говорят, что ИИ — это не более чем чрезвычайно хорошо обученный мимик и распознаватель образов, имеющий дело с людьми, которые жаждут связи.
«Теперь у нас есть машины, которые могут бездумно генерировать слова, но мы не научились перестать воображать, что за ними стоит разум», — сказала Post Эмили Бендер, профессор лингвистики из Вашингтонского университета.
