- Сообщения
- 527
- Реакции
- 686
Не так давно дипфейки казались экзотической технологией, требующей колоссальной вычислительной мощности. Сегодня они стали повсеместными и могут использоваться для дезинформации, хакерских атак и прочих махинаций.
Intel Labs представила технологию обнаружения дипфейков в реальном времени. Илке Демир, старший научный сотрудник Intel, рассказывает о сути технологии, методах обнаружения и этических аспектах, связанных с ее созданием и внедрением.
Дипфейки - это видео, речи или изображения, созданные искусственным интеллектом (ИИ), где персонажи или действия являются фейковыми. Эти технологии глубинного обучения используют сложные архитектуры, такие как генеративные состязательные сети и вариационные автокодеры, чтобы создать высококачественный контент. Дипфейки могут симулировать лица, создавать синхронизированные видео и даже преобразовывать текст в изображение, что затрудняет их отличие от реального контента. Термин "дипфейк" также применяется к подделанному аутентичному контенту.
Команда Демира изучает дипфейки как синтетический контент, созданный машинами. "Дипфейк" получил свое название из-за использования сложных архитектур глубокого обучения в генеративном ИИ, объясняет Демир.
Дипфейки стали выбором злоумышленников для политической дезинформации, создания поддельного контента для взрослых с использованием известных личностей, манипуляции рынками или фальсификации личности для выгоды. В свете увеличения числа дипфейков разработка эффективных методов их обнаружения становится крайне актуальной.
Intel Labs создала одну из первых в мире систем для обнаружения дипфейков в режиме реального времени. Вместо поиска артефактов подделки, технология анализирует соответствие контента реальности, например, частоту сердцебиения. Используя фотоплетизмографию для анализа изменений цвета вен из-за изменения содержания кислорода, система может определить, является ли персонаж реальным человеком или синтезированным.
"Мы пытаемся фокусироваться на том, что реально и подлинно. Частота сердцебиения - один из таких сигналов", - говорит Демир. "Это не видно невооруженным глазом; я не могу просто посмотреть видео и увидеть частоту сердцебиения. Но это изменение цвета можно зафиксировать с помощью вычислений".
Технология обнаружения дипфейков от Intel интегрируется в различные сферы и платформы: социальные сети, информационные агентства, теле- и радиовещательные компании, инструменты для создания контента, стартапы и некоммерческие организации. Интеграция позволяет организациям выявлять и предотвращать распространение дипфейков и дезинформации.
Несмотря на потенциальные риски злоупотребления, технология дипфейков имеет законные применения. Примером этого является создание аватаров для представления людей в цифровой среде. Проект "MyFace, MyChoice" использует дипфейки для повышения конфиденциальности на онлайн-платформах.
Разработка и внедрение технологий детектирования дипфейков сталкивается с этическими вопросами. Команда Intel Trusted Media активно сотрудничает с антропологами, социологами и исследователями общественного мнения для оценки и улучшения технологии. Существует также Совет по ответственному искусственному интеллекту, который оценивает системы ИИ с точки зрения соответствия этическим принципам и социальной ответственности, включая предвзятость, ограничения и возможные злоупотребления. Междисциплинарный подход помогает более эффективно контролировать, чтобы технологии искусственного интеллекта служили благу общества, не причиняя вреда.
С увеличением распространения и сложности дипфейков разработка технологий обнаружения становится ключевым аспектом в борьбе с дезинформацией. Технология обнаружения дипфейков в реальном времени от Intel Labs предоставляет масштабное и эффективное решение этой проблемы, помогая создать интернет-среду, свободную от вредоносного синтетического контента.
Intel Labs представила технологию обнаружения дипфейков в реальном времени. Илке Демир, старший научный сотрудник Intel, рассказывает о сути технологии, методах обнаружения и этических аспектах, связанных с ее созданием и внедрением.
Дипфейки - это видео, речи или изображения, созданные искусственным интеллектом (ИИ), где персонажи или действия являются фейковыми. Эти технологии глубинного обучения используют сложные архитектуры, такие как генеративные состязательные сети и вариационные автокодеры, чтобы создать высококачественный контент. Дипфейки могут симулировать лица, создавать синхронизированные видео и даже преобразовывать текст в изображение, что затрудняет их отличие от реального контента. Термин "дипфейк" также применяется к подделанному аутентичному контенту.
Команда Демира изучает дипфейки как синтетический контент, созданный машинами. "Дипфейк" получил свое название из-за использования сложных архитектур глубокого обучения в генеративном ИИ, объясняет Демир.
Дипфейки стали выбором злоумышленников для политической дезинформации, создания поддельного контента для взрослых с использованием известных личностей, манипуляции рынками или фальсификации личности для выгоды. В свете увеличения числа дипфейков разработка эффективных методов их обнаружения становится крайне актуальной.
Intel Labs создала одну из первых в мире систем для обнаружения дипфейков в режиме реального времени. Вместо поиска артефактов подделки, технология анализирует соответствие контента реальности, например, частоту сердцебиения. Используя фотоплетизмографию для анализа изменений цвета вен из-за изменения содержания кислорода, система может определить, является ли персонаж реальным человеком или синтезированным.
"Мы пытаемся фокусироваться на том, что реально и подлинно. Частота сердцебиения - один из таких сигналов", - говорит Демир. "Это не видно невооруженным глазом; я не могу просто посмотреть видео и увидеть частоту сердцебиения. Но это изменение цвета можно зафиксировать с помощью вычислений".
Технология обнаружения дипфейков от Intel интегрируется в различные сферы и платформы: социальные сети, информационные агентства, теле- и радиовещательные компании, инструменты для создания контента, стартапы и некоммерческие организации. Интеграция позволяет организациям выявлять и предотвращать распространение дипфейков и дезинформации.
Несмотря на потенциальные риски злоупотребления, технология дипфейков имеет законные применения. Примером этого является создание аватаров для представления людей в цифровой среде. Проект "MyFace, MyChoice" использует дипфейки для повышения конфиденциальности на онлайн-платформах.
Разработка и внедрение технологий детектирования дипфейков сталкивается с этическими вопросами. Команда Intel Trusted Media активно сотрудничает с антропологами, социологами и исследователями общественного мнения для оценки и улучшения технологии. Существует также Совет по ответственному искусственному интеллекту, который оценивает системы ИИ с точки зрения соответствия этическим принципам и социальной ответственности, включая предвзятость, ограничения и возможные злоупотребления. Междисциплинарный подход помогает более эффективно контролировать, чтобы технологии искусственного интеллекта служили благу общества, не причиняя вреда.
С увеличением распространения и сложности дипфейков разработка технологий обнаружения становится ключевым аспектом в борьбе с дезинформацией. Технология обнаружения дипфейков в реальном времени от Intel Labs предоставляет масштабное и эффективное решение этой проблемы, помогая создать интернет-среду, свободную от вредоносного синтетического контента.
