Разработчики ИИ покидают лаборатории из-за страха перед последствиями своих технологий
Уход специалистов из ведущих ИИ-лабораторий отражает растущую тревогу внутри индустрии: работа над системами, меняющими будущее, начинает влиять на психическое здоровье самих создателей.
Для тысяч людей, работающих над искусственным интеллектом, создание передовых моделей превращается в источник хронического стресса. Психологические проблемы испытывают сотрудники компаний, которые определяют мировое развитие технологий, в том числе в OpenAI, Anthropic и Google DeepMind, сообщает Financial Times.
Более десятка ведущих специалистов этих компаний уволились за последние два года. Причинами они назвали опасения по поводу темпов развития ИИ и недоверие к приоритетам руководителей в вопросах безопасности. Работник DeepMind на условиях анонимности пояснил, что работа над безопасностью ИИ воспринимается как «невыполнимая задача», поскольку невозможно предсказать, как технологии будут использованы в будущем. Он привел пример сделки Google с Пентагоном, которая допускает использование ИИ в секретных военных операциях.
Внутренний конфликт
Собеседник издания отметил, что в компании были многочисленные увольнения и длительные отпуска по состоянию психического здоровья, связанные с моральным грузом. Напряжение усиливается апокалиптическими сценариями, которые обсуждают сами руководители лабораторий. Глава Anthropic Дарио Амодеи недавно заявил, что без мер контроля ИИ может опередить способность человека управлять системами, и предложил замедлить совершенствование моделей. Его позицию поддержал гендиректор OpenAI Сэм Альтман.
Прогнозы и разногласия
Однако не все разделяют сдержанность руководства. Инвестор Майкл Бьюрри, известный предсказаниями рыночных обвалов, раскритиковал такие заявления, предположив, что топ-менеджеры набивают цену бизнеса перед IPO, маскируя замедление развития ИИ-индустрии в целом.
Увольнение математика Джейкоба Коксона последовало сразу после поста Амодеи. Коксон подчеркнул, что гонка компаний приближает мир к «точке невозврата», и уже в 2027 году саморазвивающиеся модели могут выйти из-под контроля. «Многие люди расстроены», поделился один из сотрудников. Далее, как дают понять в индустрии, начнется новая волна обсуждений замедления темпов разработки.