Агентство перспективных оборонных разработок (DARPA) министерства обороны США заказало американской компании Raytheon разработку нейросети, способной объяснить, почему она в ходе своей работы приняла то или иное решение, пишет N+1.
Как пояснили в Raytheon, разработка нейросети станет частью масштабного проекта, предусматривающего создание смешанных боевых подразделений из людей и роботов.
Заказ DARPA предусматривает создание нейросети, которая будет сопоставима с обычными нейросетями по быстродействию, но также сможет показать всю цепочку анализа, на основании которого она приняла то или иное решение. Для наглядной демонстрации этой цепочки специалистам Raytheon предстоит создать специальный графический интерфейс. О примерных сроках работы над проектом не сообщается.
По замыслу DARPA в смешанных подразделениях люди и роботы должны будут действовать как напарники и для эффективного взаимодействия людей и машин необходимо, чтобы военнослужащие доверяли роботам. Уровень доверия будет выше, если последние смогут объяснять свои действия.
Напомним, в июле сообщалось, что DARPA набирает команду, которая займется разработкой нейронного интерфейса в рамках программы, нацеленной на создание систем, которые позволят военным отправлять и получать информацию с помощью мозговых волн. В итоге военнослужащие США должны получить возможность управлять дронами, системами кибербезопасности и другими технологиями силой мысли.
