Может ли ИИ уничтожить человечество к 2030 году?

Об этом сообщает издание The Guardian.

Может ли ИИ уничтожить человечество к 2030 году?

Законодатели США выразили обеспокоенность

Бывший исследователь компании Anthropic Джейкоб Коксон заявил, что искусственный интеллект в ближайшие годы может превратиться в системы, превосходящие человеческие возможности, и к 2030 году представлять серьёзную угрозу для человечества.

В своём заявлении в соцсетях исследователь отметил, что будущие системы искусственного интеллекта могут обрести «сверхчеловеческие» возможности и выйти из-под контроля, что способно привести к катастрофическим последствиям для человечества.

Может ли ИИ уничтожить человечество к 2030 году?

Сенаторы США тоже предупреждают об опасности

После заявления Коксона члены Конгресса США также обратили внимание на вопрос безопасности искусственного интеллекта.

Сенатор-республиканец от штата Техас Тед Круз оценил искусственный разум как технологию, способную создать «катастрофическую угрозу». Он напомнил, что ранее в беседе с Илоном Маском обсуждал вероятность того, что искусственный интеллект может уничтожить человечество. По словам Круза, Маск оценил такую вероятность в 10–20%.

Независимый сенатор от штата Вермонт Берни Сандерс подчеркнул, что выступает за запрет искусственного суперинтеллекта и временную приостановку развития ИИ до разработки стандартов безопасности.

Конгрессмен-демократ от Калифорнии Тед Лье расценил заявление Коксона как ещё одно доказательство необходимости усиления мер безопасности в сфере искусственного интеллекта. Он призвал Конгресс ускорить принятие двухпартийного законопроекта о «кнопке отключения» ИИ (AI Kill Switch Bill).

Конгрессвумен-демократ от Массачусетса Лори Трахан, в свою очередь, отметила, что исследователи в области безопасности ИИ покидают компании, тогда как технологические фирмы продолжают развитие, и заявила, что Конгрессу необходимо действовать активнее.

Может ли ИИ уничтожить человечество к 2030 году?

Anthropic: риски существуют, но ситуация под контролем

Дискуссия усилилась после того, как Anthropic и OpenAI опубликовали данные об инцидентах безопасности, связанных с ИИ-агентами.

В среду Anthropic опубликовала подробный отчёт об инцидентах кибербезопасности с участием ИИ-агентов. Компания заявила, что проанализировала сотни миллионов транскриптов и не выявила случаев, аналогичных или более серьёзных, чем описанные.

По словам представителя Anthropic, компания всегда признавала, что искусственный интеллект наряду с огромной пользой может нести и беспрецедентные риски. Поэтому компания заявила, что разрабатывает надёжные механизмы безопасности.

Компания также подчеркнула, что вся отрасль должна сотрудничать для согласования темпов вывода на рынок мощных моделей ИИ.

При этом прогноз Коксона об исчезновении человечества к 2030 году пока остаётся его личной оценкой и не рассматривается как научный или политический консенсус. Эксперты в области безопасности ИИ выдвигают разные прогнозы относительно долгосрочных рисков этой технологии.

Автор: Хасанбой ОЧУН