Опасения по поводу неконтролируемого развития ИИ

Ведущий научный сотрудник Anthropic, Эван Хабингер, публично заявил, что существует более чем 10-процентная вероятность того, что искусственный интеллект может привести к уничтожению человечества уже к концу текущего десятилетия. Это тревожное заявление прозвучало на фоне растущих опасений внутри индустрии относительно стремительного и потенциально бесконтрольного развития передовых систем ИИ.

Отставка на фоне опасений

Заявление Хабингера последовало всего через несколько часов после того, как его коллега, Джейкоб Коксон, подал в отставку из компании Anthropic. Коксон выразил глубокую обеспокоенность тем, что как Anthropic, так и конкурирующие лаборатории безрассудно участвуют в гонке по созданию «сверхумных систем», которые они не смогут контролировать. Он подчеркнул, что такой подход представляет собой «азартную игру с нашими жизнями» и призвал к заключению соглашений между исследовательскими лабораториями для замедления темпов разработки ИИ.

Потенциальные угрозы и призывы к регулированию

Обеспокоенность исследователей из Anthropic подчеркивает критическую дискуссию о безопасности и этике в области искусственного интеллекта. Эксперты призывают к более строгому регулированию и совместным усилиям по обеспечению того, чтобы развитие ИИ оставалось под контролем человека, предотвращая непредсказуемые и катастрофические последствия. Вероятность уничтожения человечества ИИ, которую оценивают как 1 к 10, служит серьезным предупреждением для всего мирового сообщества.