Человечество не готово. Бесконтрольное развитие ИИ несет катастрофические риски

Фото из интернета. Дарио Амодеи, сооснователь и генеральный директор компании Anthropic
В своем недавнем эссе, опубликованном в Financial Times, Дарио Амодеи, один из ведущих экспертов в области искусственного интеллекта, предупреждает о серьезных рисках, связанных с развитием мощных ИИ-систем. Амодеи, который активно участвует в создании передовых технологий в этой области, утверждает, что человечество вскоре обретет «почти невообразимую власть», однако неясно, насколько современные социальные, политические и технологические структуры готовы к этой ответственности.
Он отмечает, что скорость прогресса в области ИИ значительно превышает усилия по обеспечению контроля и безопасности. В своем эссе Амодеи выделяет опасности, возникающие в результате бесконтрольного роста так называемого «мощного искусственного интеллекта», который, по его прогнозам, станет «существенно более совершенным» по сравнению с любыми Нобелевскими лауреатами, государственными деятелями или технологическими гениями в ближайшие годы.
Среди возможных последствий этого прогресса он упоминает массовую утрату рабочих мест и значительное увеличение угрозы биотерроризма. По его мнению, ИИ может предоставить отдельным людям доступ к знаниям и навыкам, которые ранее были доступны лишь ограниченному кругу специалистов, что в свою очередь может упростить создание биологического оружия, способного привести к катастрофическим последствиям для человечества.
«Человек, который может открыть стрельбу в школе, не обладая при этом способностями к созданию ядерного оружия или вируса, теперь может стать специалистом с докторской степенью в вирусологии», — подчеркивает Амодеи.
Также он предостерегает о рисках, связанных с возможностью выхода ИИ из-под контроля, что может привести к подчинению человечества или усилению авторитарных режимов и злоумышленников. Это, по его мнению, может стать основой для формирования «глобальной тоталитарной диктатуры».
В заключение, Амодеи призывает к срочным действиям со стороны правительств, научного сообщества и бизнеса для разработки эффективных механизмов регулирования и усиления мер безопасности, чтобы минимизировать угрозы, связанные с появлением мощного искусственного интеллекта.

Дарио Амодеи

Один из ведущих фигур в мировой индустрии искусственного интеллекта.

Сооснователь и генеральный директор компании Anthropic.

По образованию — физик и специалист в области машинного обучения. Ранее работал в OpenAI, где занимал руководящие должности и участвовал в разработке крупных языковых моделей.

Амадеи является сторонником идеи, что развитие ИИ должно сопровождаться строгими мерами безопасности и контроля. Его разногласия по вопросам управления рисками ИИ стали одной из причин его ухода из OpenAI.

Anthropic
Anthropic — американская компания, занимающаяся искусственным интеллектом, основанная в 2021 году выходцами из OpenAI. Штаб-квартира расположена в Сан-Франциско.

Фирма специализируется на разработке безопасных и управляемых ИИ-систем, а ее ключевой продукт — семейство языковых моделей Claude, которые являются конкурентами ChatGPT и другим крупным ИИ-моделям.

Anthropic акцентирует внимание на так называемом «конституционном ИИ», где модели обучаются следовать заранее установленным этическим принципам, чтобы минимизировать риски вредного поведения.

Влияние и поддержка
Anthropic считается одним из лидеров в области ИИ и привлекла миллиарды долларов инвестиций.

Крупнейшими партнерами и инвесторами компании являются Amazon и Google.

Таким образом, утверждения Амодеи о рисках, связанных с ИИ, воспринимаются серьезно: он не просто критик, а человек, который непосредственно участвует в создании мощнейших ИИ-систем мира.