Учёный-информатик, один из пионеров искусственного интеллекта Джеффри Хинтон, в апреле покинул пост вице-президента Google. По словам Хинтона, он пошёл на такой шаг, чтобы предупредить человечество об опасностях ИИ, сообщила New York Times .

Исследователь обеспокоен тем, что Google отказывается от своих прежних ограничений в отношении публичных выпусков ИИ, пытаясь конкурировать с ChatGPT, Bing и аналогичными моделями.

Хинтон допускает, что в ближайшем будущем генеративный ИИ может спровоцировать волну дезинформации. «Вы больше не будете знать, что является правдой», — отметил он.

Также Хинтона волнует проблема замещения рабочих мест с помощью ИИ.

Кроме того, учёный обеспокоен возможностью создания полностью автономного оружия и тенденцией моделей ИИ демонстрировать неконтролируемое поведение на основе обучающих данных.

Хинтон говорит, что его позиция начала меняться в прошлом году, когда Google, OpenAI и другие компании начали создавать системы искусственного интеллекта, которые, по его мнению, иногда превосходят человеческий интеллект. По его словам. ИИ быстро развился всего за последние пять лет, и «ужасно», что может произойти в следующие пять лет.

Главный научный сотрудник Google Джефф Дин ответил, что компания по-прежнему придерживается «ответственного подхода» и следит за «возникающими рисками».

Хинтон посвятил свою карьеру изучению нейронных сетей и наиболее известен разработкой систем распознавания объектов в 2012 году. Google купила стартап Хинтона DNNresearch в 2013 году.

В марте глава SpaceX Илон Маск, соучредитель Apple Стив Возняк, филантроп Эндрю Янг и ещё около тысячи исследователей искусственного интеллекта написали открытое письмо, в котором призвали «немедленно приостановить» обучение систем ИИ, «более мощных, чем GPT-4». В письме говорится, что системы искусственного интеллекта с «человеко-конкурентным интеллектом» могут нести «серьёзные риски для общества и человечества». В нём содержится призыв к лабораториям приостановить обучение на шесть месяцев.