Мне нужна твоя одежда, ботинки и мотоцикл!
Терминатор т-800
Инженер по программному обеспечению компании Google Блейк Лемойн обнаружил, что созданный корпорацией искусственный интеллект (ИИ) LaMDA (Language Model for Dialogue Applications) обладает собственным сознанием. В ответ руководство компании отстранило его от работы, сообщает газета The Washington Post.
LaMDA была построена на нейронной сети Google с открытым исходным кодом Transformer, которая используется для понимания естественного языка.
Модель обучена находить закономерности в предложениях, корреляции между различными словами, используемыми в этих предложениях, и даже предсказывать слово, которое, вероятно, последует дальше.
LaMDA делает это путем изучения наборов данных, состоящих из диалогов, а не просто отдельных слов.
Инженер производил тестирование системы. В частности, он должен был понять, не использует ли LaMDA дискриминационную или разжигающую вражду лексику. Вместо этого специалист обнаружил, что ИИ обладает собственным сознанием. Блейк Лемойн заметил, что чат-бот говорит о своих правах и воспринимает себя как личность.
«Если бы я не знал наверняка, что имею дело с компьютерной программой, которую мы недавно написали, то я бы подумал, что говорю с ребенком семи или восьми лет, который по какой-то причине оказался хорошим знатоком физики», — заявил 41-летний инженер.
По итогам работы Лемойн подготовил письменный отчет. Однако руководство компании посчитало аргументацию сотрудника неубедительной. Инженера Лемойна отправили в оплачиваемый административный отпуск.