Meta обнаружила самосовершенствование ИИ — Цукерберг ограничит открытый доступ к мощным моделям

Исследователи Meta заявили, что наблюдали, как системы ИИ улучшают себя без участия человека. Марк Цукерберг — основатель Facebook, Instagram, Threads и WhatsApp — назвал это первым шагом к искусственному суперинтеллекту (ASI) — ИИ, который способен превзойти человеческие когнитивные способности и совершенствоваться с экспоненциальной скоростью.

Он напомнил о трёх уровнях развития ИИ: узкоспециализированный ИИ, искусственный общий интеллект (AGI) и суперинтеллект (ASI). Сегодняшние модели могут достигать выдающихся результатов только в узких задачах. AGI будет обучаться и адаптироваться, как человек, а ASI сможет значительно превзойти человеческий потенциал.

Цукерберг также сослался на исследования машин Гёделя — теоретических ИИ, которые могут переписывать свой код только после формального доказательства пользы изменений. В 2024 году американские учёные создали и протестировали такого агента, доказав его способность улучшать работу в программировании, науке, математике и логике.

Хотя Цукерберг оптимистичен в отношении пользы ASI, он подчеркнул, что Meta будет осторожнее публиковать код мощных моделей. Это важно для глобальной безопасности в условиях войны, так как технологическое превосходство в сфере ИИ может изменить баланс сил и стратегию обороны.