Эксперты утверждают, что всё, что превышает 40% вероятности, вызывает подозрения.
Определение подлинности информации
Новый инструмент для обнаружения дипфейков призван помочь в борьбе с поддельным контентом. «Оценка подделки» — это приложение, которое обучает пользователей распознавать видео и аудио, созданные с помощью искусственного интеллекта. Инструмент предоставляется бесплатно, что делает его доступным для всех, кто хочет снизить вред от поддельных материалов.
В ответ на растущую угрозу дипфейков компания CloudSEK, специализирующаяся на безопасности, разработала новую технологию Deep Fake Detection. Эта технология направлена на борьбу с дипфейками и позволяет пользователям легко выявлять сфальсифицированный контент.
Инструмент обнаружения CloudSEK разработан, чтобы помочь организациям выявлять контент, созданный с использованием технологии Deepfake, и предотвращать потенциальный ущерб их деятельности и репутации.
CloudSEK оценивает подлинность видеокадров, уделяя особое внимание чертам лица и движениям, которые могут указывать на фальсификацию с помощью Deepfake. К таким признакам относятся неестественные изменения выражений лиц и необычные текстуры на заднем плане и на лицах.
Увеличение числа дипфейков, но есть решение
Также инструмент применяет аудиоанализ, чтобы выявлять синтетические речевые шаблоны, указывающие на наличие искусственно созданных голосов. Система также транскрибирует аудио и обобщает ключевые моменты, позволяя пользователям быстро оценить достоверность просматриваемого контента. Конечным результатом является общая «Оценка фальшивости», которая демонстрирует вероятность того, что контент был изменен искусственным путем.
Эта оценка предоставляет пользователям возможность определить уровень потенциальной манипуляции, предоставляя понимание того, является ли контент результатом работы ИИ, содержит ли он элементы дипфейка или, скорее всего, был создан человеком.
Показатель фальшивости 70% и выше указывает на то, что контент был создан с помощью ИИ. Оценка от 40% до 70% является сомнительной и может содержать смесь оригинальных и глубоко фейковых элементов. А показатель 40% и ниже, скорее всего, отражает работу человека.
В финансовом секторе дипфейки находят широкое применение в мошеннических схемах, таких как манипулирование ценами на акции или обман клиентов с помощью поддельных видеопроцедур KYC (Know Your Customer).
Сектор здравоохранения также столкнулся с проблемами: дипфейки используются для создания поддельных медицинских записей или для обмана пациентов, выдавая себя за врачей. Государственные учреждения также подвергаются угрозам, связанным с дипфейками, используемыми в избирательных кампаниях или для фальсификации доказательств.
Сферы СМИ и ИТ также подвержены риску, поскольку дипфейки применяются для создания ложных новостей и нанесения ущерба репутации брендов.
«Наша миссия по прогнозированию и предотвращению киберугроз не ограничивается корпорациями. Именно поэтому мы решили выпустить Deepfakes Analyzer для сообщества», — говорит Бофин Бабу, соучредитель CloudSEK.
Определение подлинности информации
