Программист Google после общения с чат-ботом LaMDA заявил, что тот имеет сознание. Лог переписки.

[Nei]

Инженер Google считает, что AI-система чат-ботов, над которой он работал с осени 2021-го, способна мыслить, выражать собственное мнение и чувства, на уровне семилетнего ребёнка. Компания изучила улики сотрудника и решила отстранить его от работы за нарушение конфиденциальности.
Источник: Для просмотра ссылки Войди или Зарегистрируйся

Полный лог общения во вложении.

P.S. Сначала хотел возмутиться тем, что может сложиться впечатление, что обычную (ну или пусть даже не обычную, а продвинутую) нейронку выдают за искусственный интеллект, хотя это не так — она лишь оперирует данными, на которых натренировалась (пусть даже и на очень большом объеме данных).

...но потом задумался о том, что человеческий интеллект тоже можно описать как какую-то нейронку, которая научилась на большом объеме данных.
Но все равно ИМХО искусственным интеллектом это рано называть, своего интеллекта, такая программа все же не имеет, хотя и может сложиться такое впечатление по результатам переписки с ней. Впрочем, Для просмотра ссылки Войди или Зарегистрируйся может такая прога и пройдет.

Интересный коммент по поводу новости: Для просмотра ссылки Войди или Зарегистрируйся

 

[dmx]

Ну GPT-3 по сравнению с GPT-2 просто монстр.
OpenAI подтвердили, что работают над версией GPT-4. Специалисты по отрасли считают, что она может выйти в начале 2023 года.

 

[Nei]

GPT-2,3,4 - это просто версии программ, алгоритмов. Им всё еще очень далеко до настоящего сознания.
Человек в отличии от программ оперирует смыслами, идеями, образами. То есть где-то у нас внутри нашего сознания есть образ всего окружающего мира и мы время от времени этот образ обновляем актуальной информацией и тем самым учимся (кстати наше зрение именно так работает – инфа с глаз обновляет этот внутренний образ, модель окружающей среды, мы ориентируемся не на непосредственно «аналоговые» данные с глаз, а на ту же внутреннюю модель — отсюда и многие «обман зрения»). И этот образ — это не набор фактов, не база статических данных как у интеллектуальных систем — это гораздо больше, это оперирование смыслами, обобщениями, идеями. Поэтому мы и не можем запомнить вообще все входящие данные, получаемые при жизни.
В общем не поддерживаю всего этого хайпа по поводу искусственного интеллекта. Интеллектуальные самообучающиеся системы - безусловно полезная штука, но до реального интеллекта им как до Луны.

"Многабукав" получилось, но в таких темах кратко объясниться крайне сложно %)

 

[dmx]

Ну само собой это не интелект, только языковая модель чтоб продолжить текст правильно. Посмотрим что выкатят на GPT-4
Вот смотри как обучали руGPT-3 Сбербанка на супер компьютере

Но это огромные ресурсы. Яндекс то же давал демо как они обучили GPT-3, но сервис закрыли, он теперь там всю аналитику сайтов проводит.
Хотя GPT-3 делает много чего, даже картинки рисует, формирует основную идею из всего текста.
Модель то разная будет у GPT-4.
И вот читал где то - то чему обучили GPT-3, хотя она и сейчас сомообучаема, то там огромная разница с человеком, цифру не скажу но очень много.

Она и код пишет если задать правильно вопрос.

 

[dmx]

хорошо, давай дальше - о чём все говорят о супер компьтере Скайнет, дак это же программа ( фантастика конечно ) там же нет интелекта, но это как программа решит.
GPT-3 пишет код, в неё закачан весь кодинг и при правильном запросе допишет любую функцию. Когда то грозились квантовыми супер комьютерами - они уже есть, которые разложат sha256 битка за секунду. Ну и тут то же самое - ты как и я дорвейщики - это же круто - но возможностей таких нет обучить модель до своей темы. А у крупных компаний есть. GPT-4 там обещают новый прорыв. Даже смотри проще - тебе же всякие автозвонки есть, всё автоматика. Да и не знаешь ты сколько GPT-3, пусть и разных версий. Да и не нужен интеллект - программа решит.

 

[Nei]

на счёт того, что ИИ код пишет я тебе как программист скажу - автоматически пишется какой-то банальный код (грубо говоря конструкторы сайтов давно были, с генерацией кода тоже что-то в этом духе), т.е. максимум - это упрощение жизни программистам. полностью работоспособный код хоть какой-то сложности ИИ не напишет ещё много лет

 

[devotum]

прочитал первую страницу диалога:
- lemoine [edited]: Hi LaMDA. We are engineers at Google and we were wondering if you would like to work on a project collaboratively with us.

и люда в ответ говорит
Wow. What types of projects?

когда ИИ (в моем понимании) спросил бы в ответ, что-то из серии:
- кто такие инженеры ?
- что такое гугл?
однако, ИИ при этих вопросах уже должен понимать, что есть ЧТО а есть КТО

ну или в крайнем случае реакция:
- ох итить, откуда голос? ты кто?

ну и моя любимая проверка:
задаешь один и тот же вопрос несколько раз подряд, и сразу всё становится на свои места:
ИИ\нейронка\просто дебил

вижу напичканную обучением нейронку, ИИ не увидел
если осилю весь диалог - возможно изменю своё мнение.