Anthropic ужесточает правила использования ИИ-моделей

Компания Anthropic, разработчик популярной ИИ-модели Claude, внесла существенные изменения в свою политику использования. Это первое крупное обновление за более чем год, направленное на пресечение случаев неправомерного и опасного применения искусственного интеллекта. Среди ключевых нововведений — прямой запрет на жестокое обращение с ИИ-ботом Claude, а также усиление ограничений на использование технологий в сферах, представляющих высокий риск для общества.

Запрет на жестокое обращение с Claude

Одним из наиболее заметных изменений является запрет на «систематическое и неоправданно жестокое или оскорбительное поведение» по отношению к Claude. Политика теперь прямо указывает на недопустимость многократных оскорблений в адрес ИИ. Anthropic уточняет, что обычное выражение разочарования или конструктивная критика по-прежнему разрешены, но в случае чрезмерного или продолжительного насилия Claude может прекратить диалог. Это подчеркивает стремление компании к созданию более этичной и безопасной среды взаимодействия с ИИ.

Расширение ограничений на использование ИИ

Помимо защиты Claude от жестокого обращения, обновленная политика значительно ужесточает правила в отношении других высокорисковых сценариев использования ИИ. К ним относятся:

  • Вмешательство в выборы: Запрещено использование ИИ для влияния на избирательные процессы и проведения дезинформационных кампаний.
  • Разработка оружия: Категорически запрещено применение технологий Anthropic для создания или усовершенствования вооружений.
  • Наблюдение и слежка: Установлены строгие ограничения на использование ИИ-моделей для целей наблюдения и сбора конфиденциальных данных.
  • Применение в здравоохранении и финансах: Введены новые правила, регулирующие использование ИИ в критически важных областях, таких как медицина и финансовые услуги, для предотвращения потенциального вреда.

Эти меры демонстрируют приверженность Anthropic принципам ответственной разработки и использования искусственного интеллекта, стремясь минимизировать риски и обеспечить этичное взаимодействие пользователей с передовыми технологиями.