Министерство обороны США, а точнее его подразделение специального назначения (JSOC), недавно объявило тендер на создание системы, которая будет генерировать фальшивые интернет-личности и профили. Это значит, что Пентагон ищет технологию, способную создавать искусственные личности с фотографиями, видео и другой информацией, которые будут выглядеть так, как если бы они принадлежали настоящим людям.
Процесс создания фальшивых профилей — не новинка. Он активно используется в разведке и расследованиях, а также в аматорских расследованиях в интернете. Однако на этот раз Пентагон требует более сложную систему. Она должна создавать не просто фейковые аккаунты, но и 3D-модели лиц, а также генерировать фальшивые фотографии, которые выглядят максимально правдоподобно. Эти изображения должны быть настолько качественными, чтобы их можно было использовать для создания поддельных документов, например, паспортов.
Кроме того, система должна уметь создавать видео, которые будут выглядеть как настоящие. Например, если для аутентификации требуется короткое видеоселфи, то система должна создать фальшивое видео, которое не будет отличаться от настоящего, и его невозможно будет распознать как подделку.
Также система должна генерировать окружающую среду — например, ландшафт и звуки, которые соответствуют местоположению, где будет происходить действие. Это необходимо, чтобы фальшивые профили выглядели еще более убедительно.
Все эти возможности создаются для того, чтобы собирать информацию из открытых интернет-ресурсов и форумов. Но использование таких технологий вызывает серьезные опасения. Эксперты, в том числе Хайди Калаф, специалист по искусственному интеллекту, отмечают, что технологии такого рода могут использоваться только для обмана. Она предупреждает, что если армия США применяет эти методы, то это может побудить и другие страны использовать их, что приведет к росту фальшивок и манипуляций в интернете.
В результате будет сложнее отличить правду от вымысла, что серьезно подорвет доверие к информации в сети. Важно помнить, что каждую технологию можно использовать как для хороших, так и для плохих целей. В случае с фальшивыми личностями и профилями для манипуляций, контроль и этичное использование таких технологий крайне важны, чтобы не привести к еще большему размытию границ между настоящей и фальшивой информацией.