Google не будет разрабатывать искусственный интеллект для вооружений

Компания Google сформулировала принципы, которых она намерена придерживаться в сфере разработки искусственного интеллекта (ИИ). Об этом сообщил в блоге компании глава Google Сундар Пичаи.

Поводом для создания этого своеобразного этического кодекса послужила недавняя история с массовым недовольством сотрудников Google по поводу участия компании в проекте Пентагона по созданию ПО для анализа видеозаписей с военных дронов. Поэтому один из обнародованных Пичаи принципов гласит, что Google не будет заниматься разработками ИИ для вооружений. В то же время кодекс не запрещает сотрудничество компании с военными в сфере ИИ, отмечает The Verge.

В публикации также говорится, что Google никогда не будет вести разработку технологий ИИ, предназначенных для сбора и использования данных в целях слежки, противоречащей международным правилам; технологий, которые могут насести вред обществу; технологий, которые нарушают нормы международного права и права человека.

Согласно записи Пичаи, исследования в сфере искусственного интеллекта будут проводиться Google со всей ответственностью. Разработки ИИ должны приносить пользу, быть безопасными и подконтрольными человеку, а также учитывать вопросы конфиденциальности и проводиться с соблюдением высоких научных стандартов.

Напомним, о сотрудничестве Google с Минобороны США стало известно в марте этого года. Речь шла об участии компании в проекте Maven, целью которого является разработка алгоритмов машинного обучения для анализа записей камер военных дронов. В начале апреля несколько тысяч сотрудников Google подписали письмо, адресованное главе компании Сундару Пичаи, с требованием отказаться от участия в этом проекте.

В руководстве компании подчеркивали, что технологии, созданные при участии Google, не будут использованы для управления дронами или применения оружия, но этих заявлений оказалось недостаточно, чтобы успокоить недовольных сотрудничеством с Пентагоном работников Google. Так, в письме говорилось, что технологии могут быть применены в военных целях не напрямую, а косвенно. Авторы письма также отмечали, что контракт с Министерством обороны наносит ущерб репутации Google и идет вразрез с ценностями компании. В связи с этим сотрудники просили Пичаи не только отказаться от участия в проекте Maven, но и принять политику, исключающую участие компании в создании военных технологий.

В середине мая стало известно, что около дюжины сотрудников Google покинули компанию в знак протеста против сотрудничества c Пентагоном в рамках проекта Maven. В начале июня Google отказалась от продления контракта с Минобороны США, а несколькими днями ранее в компании пообещали подготовить список принципов Google в области разработки ИИ.

Как отметил представитель Google в разговоре с The Verge, компания, вероятно, отказалась бы от участия в проекте Maven, если бы обнародованный Пичаи свод принципов существовал на тот момент.


ССЫЛКИ ПО ТЕМЕ