Компания Microsoft представила проект новых правил поведения для будущих моделей искусственного интеллекта. Документ под названием “Humanist AI Code of Conduct” направлен на обеспечение того, чтобы системы искусственного интеллекта работали безопасно, оставались под контролем человека и приносили пользу обществу.
Проект станет основой для дальнейшей разработки AI-моделей Microsoft. Сейчас компания открыла документ для общественного обсуждения и планирует собрать предложения специалистов и пользователей в течение нескольких недель.
Человеческий контроль как главный принцип
Основная идея нового подхода Microsoft заключается в том, что искусственный интеллект не должен выходить за пределы человеческого контроля.
В документе подчёркивается необходимость того, чтобы AI-системы:
- следовали человеческим указаниям;
- сохраняли возможность корректировки;
- работали в безопасных рамках;
- избегали действий, способных нанести вред обществу.
Глава Microsoft AI Мустафа Сулейман назвал эти принципы своеобразной основой для будущих моделей искусственного интеллекта, которые должны развиваться с учётом интересов людей.
Ограничения для опасных сценариев использования AI
В проекте правил Microsoft предусмотрены ограничения на использование искусственного интеллекта в потенциально опасных сферах.
Компания намерена исключить применение своих моделей для:
- помощи в создании оружия;
- облегчения получения опасных веществ;
- генерации насильственного или откровенного контента.
Таким образом, Microsoft стремится учитывать не только технологические возможности AI, но и социальную ответственность.
