Новый руководитель Google Cloud по искусственному интеллекту изучает военный искусственный интеллект вместе с основателем проекта Maven

Когда руководитель Google Cloud Дайан Грин объявила, что позже в этом году Эндрю Мур заменит Фей-Фей Ли на посту руководителя отдела искусственного интеллекта Google Cloud, она упомянула, что он был деканом факультета компьютерных наук в Университете Карнеги-Меллона и что раньше он работал в Google. .

О чем Грин не упомянул, так это о том, что Мур также является сопредседателем целевой группы по искусственному интеллекту, созданной Центром новой американской безопасности (CNAS) — аналитическим центром, имеющим прочные связи с вооруженными силами США. Сопредседателем оперативной группы Мура является Роберт Уорк, бывший заместитель министра обороны, которого газета New York Times назвала «движущей силой создания проекта Maven», попытки американских военных анализировать данные, такие как видеозаписи с дронов. , используя ИИ.

Участие Google в Project Maven вызвало огромную негативную реакцию внутри компании в начале этого года, вынудив генерального директора Сундара Пичаи пообещать, что Google никогда не будет работать над оружием, улучшенным искусственным интеллектом.

Принятие на работу Мура наверняка вновь разожжет споры об участии Google в определенных рынках искусственного интеллекта — одной из самых горячих областей технологий с огромным бизнес-потенциалом — и об отношениях, которые компания поддерживает с военными.

Во время своего пребывания в Карнеги-Меллоне Мур часто обсуждал роль ИИ в оборонных и военных приложениях, например, в своем докладе 2017 года об искусственном интеллекте и глобальной безопасности:

«Мы могли бы себе это позволить, если бы захотели и если бы нам было нужно, наблюдать практически за всем миром с помощью автономных дронов различных типов», — сказал Мур. «Я не говорю, что мы хотели бы это сделать, но нет такого технологического разрыва, при котором, я думаю, это было бы слишком сложно сделать. Теперь это практично».

CNAS, организация, которая сформировала сопредседателей рабочей группы Мура, занимается вопросами национальной безопасности, и ее заявленная миссия состоит в том, чтобы «разрабатывать сильную, прагматичную и принципиальную политику национальной безопасности и обороны, которая продвигает и защищает американские интересы и ценности».

Решение Google нанять Мура было встречено с неудовольствием по крайней мере одним бывшим сотрудником Google, который возражал против Project Maven.

«После широко распространенного внутреннего инакомыслия против Maven вызывает тревогу тот факт, что Google наймет Эндрю Мура», — сказал один из бывших сотрудников Google. «Сотрудники Google хотят меньшего взаимодействия с военно-промышленным комплексом, а не большего. Этот прием на работу — словно удар в лицо более чем 4000 сотрудникам Google, подписавшим письмо об отмене Maven».

Представитель Google отказался от комментариев.

Мур, родившийся в Соединенном Королевстве, но с тех пор ставший гражданином США, часто говорил о необходимости осторожности при переносе ИИ из лаборатории в реальный мир. Когда в марте было объявлено о создании целевой группы CNAS, Мур подчеркнул важность «обеспечения того, чтобы такие системы работали с людьми таким образом, чтобы расширять возможности человека, а не заменять его, и сохраняя за человеком окончательные полномочия по принятию решений».

А в недавнем подкасте CNAS он описал то, что он назвал своим «консервативным» взглядом на ИИ в реальном мире: «Даже если бы я знал, что, например, запуск парка автономных транспортных средств в городе снизит смертность на 50%, я бы Я не хочу запускать его, пока не наткнусь на некоторые формальные доказательства правильности, которые покажут мне, что он абсолютно не будет связан с ненужными смертями».

Тем не менее, он не уклоняется от работы в военном секторе.

В биографии Мура из Университета Карнеги-Меллон упоминается его прошлая работа, связанная с «обнаружением и наблюдением за террористическими угрозами», и он указан в качестве участника по установлению фактов в консультативном отчете военно-морских исследований за сентябрь 2017 года «Автономные и беспилотные системы в Министерстве ВМФ».

Читать далее: Напряженная внутренняя встреча генерального директора Google Сундара Пичаи с сотрудниками пошла наперекосяк, поскольку руководители рассмотрели слухи о планах компании в Китае

Во время разговора о глобальной безопасности в 2017 году он упомянул о возможности внедрения цифровых личных помощников, таких как те, которые используются в потребительских гаджетах Google и Amazon, в военные приложения. «Остается открытым вопрос о том, сможем ли мы, а также когда и как разработать личных помощников для бойцов и командиров, которые будут иметь тот полный набор информации, который поможет рассеять «туман войны», не мешая им слишком большим количеством информации», он сказал.