- Microsoft опубликовала предварительную версию свода этических принципов разработки искусственного интеллекта, официально закрепив приоритет человеческого контроля и благополучия над развитием технологий.
- Новый кодекс вводит ряд ограничений для будущих ИИ-моделей компании, подчеркивая, что искусственный интеллект должен служить людям, а не заменять их.
- Решение о публикации предварительной версии кодекса было принято в момент обострения общественной дискуссии о безопасности ИИ, хотя работа над этими рекомендациями велась около пяти месяцев.
Microsoft устанавливает новые этические границы для ИИ
Microsoft опубликовала предварительную версию свода этических принципов разработки искусственного интеллекта, официально закрепив приоритет человеческого контроля и благополучия над развитием технологий. Этот шаг предпринят на фоне растущих опасений экспертов относительно стремительного прогресса в области машинного обучения и потенциальных рисков утраты контроля над продвинутыми ИИ-системами.
Ограничения для будущих ИИ-моделей
Новый кодекс вводит ряд ограничений для будущих ИИ-моделей компании, подчеркивая, что искусственный интеллект должен служить людям, а не заменять их. Глава ИИ-подразделения Microsoft Мустафа Сулейман отметил, что документ является ответом на многочисленные отзывы пользователей, которые выразили желание видеть более четкие обязательства со стороны разработчиков. «Мы получили отзывы от людей, которые хотели видеть ещё более явное обязательство того, что ИИ всегда работает на благо людей и не пытается заменить их. Мы увидели много отзывов о том, что ИИ не должен создавать зависимость, не должен льстить, что он всегда должен способствовать суждениям человека, автономии человека и свободе воли», — заявил Сулейман.
Ответственное развитие ИИ
Решение о публикации предварительной версии кодекса было принято в момент обострения общественной дискуссии о безопасности ИИ, хотя работа над этими рекомендациями велась около пяти месяцев. Microsoft стремится укрепить свою репутацию как ответственного игрока в сфере искусственного интеллекта, где компания является одним из крупнейших поставщиков облачных услуг. Этот шаг последовал за заявлениями ведущих компаний, таких как OpenAI и Anthropic, о необходимости замедления темпов разработки передовых алгоритмов, что указывает на общую тенденцию в отрасли к более осторожному и этически ориентированному подходу к развитию ИИ.
Решение Microsoft о закреплении приоритета человека над ИИ и отказе моделям в сознании является ключевым шагом в формировании этических рамок. Это не просто декларация, а стратегическое позиционирование в условиях растущих опасений относительно AGI и контроля. Особенно важно, что компания подчеркивает принципы автономии и свободы воли человека, что может повлиять на разработку интерфейсов и архитектур будущих моделей, предотвращая создание систем, способных манипулировать пользователем или создавать чрезмерную зависимость, как это было с некоторыми ранними версиями чат-ботов.