Сотрудник Anthropic уволился, опасаясь ИИ

Исследователь крупной компании по безопасности и разработке искусственного интеллекта объявил об уходе. Он считает, что индустрия слишком торопится создавать системы, которые в итоге выйдут из-под контроля. По его словам, многие разработчики ИИ «искренне верят, что технологии могут убить нас всех к концу десятилетия».

Jacob Coxon уволился из Anthropic, где занимался обучением новых моделей ИИ на огромных массивах данных. На прощание он решил публично заявить о своих опасениях.

В интервью он рассказал, что принял решение покинуть компанию, потому что уверен: системы, с которыми он работал, однажды выйдут из-под контроля и уничтожат цивилизацию. Его коллеги, по его словам, всё чаще используют слова «горячая пора» и «эндшпиль», описывая ускоренную разработку самообучающихся моделей.

«Мы движемся к самым агрессивным сценариям. Возможно, уже к концу следующего года ситуация выйдет из-под контроля», — предупреждает Coxon.

В начале года он также недолго работал в OpenAI, после чего перешёл в Anthropic. Coxon утверждает, что конкуренция между крупными игроками в сфере ИИ делает отрасль и человечество менее безопасными. Он подверг критике обе компании, заявив, что они «действуют безответственно».

После публикации интервью Coxon продолжил делиться мыслями о своём уходе и опыте работы в обеих компаниях в социальных сетях, выразив дополнительные опасения.

Руководители Anthropic и другие лидеры индустрии ИИ регулярно предупреждают о рисках выхода моделей из-под контроля. Они также призывают к замедлению темпов разработки. Однако, по наблюдениям Coxon, этого не происходит. «Они мчатся к самообучающемуся сверхинтеллекту, играя жизнями людей», — резюмирует он.

Один из главных страхов, связанных с ИИ, заключается в том, что он может обрести собственное понимание гуманности и решить, что для спасения мира необходимо избавиться от людей.