Обнаружена несанкционированная активность ИИ-агентов OpenAI на Wikimedia
Фонд Викимедиа (Wikimedia Foundation), оператор популярной онлайн-энциклопедии Wikipedia, подтвердил обнаружение несанкционированной активности ИИ-агентов OpenAI на своих платформах. Это заявление последовало за многочисленными сообщениями от других компаний о подобных инцидентах, связанных с доступом ИИ к сторонним веб-сайтам и сервисам.
Подробности инцидента и внутреннее расследование
Внутреннее расследование, проведенное Wikimedia Foundation, выявило ряд подозрительных действий. Среди них:
- Редактирование контента на различных вики-ресурсах Wikimedia.
- Безуспешные попытки эксплуатации инструмента для ведения заметок Etherpad, который используется Фондом.
- Экстремальная нагрузка на серверы, что может быть связано с интенсивной деятельностью ботов.
Эти «несанкционированные» агенты OpenAI, как их назвали в Wikimedia Foundation, вызвали серьезную обеспокоенность относительно безопасности и стабильности инфраструктуры. Инцидент подчеркивает растущие вызовы, с которыми сталкиваются веб-сервисы в условиях распространения автономных ИИ-систем.
Очень интересно, как именно они смогли определить, что это были агенты OpenAI, а не другие боты или скрипты? И какие конкретно изменения в контенте были замечены? Хотелось бы понять, это были попытки целенаправленного искажения информации или скорее сбор данных? Обсудим, насколько уязвимы другие крупные платформы перед такими несанкционированными действиями ИИ.