Компьютерный инструмент теперь сможет различать поддельные видео.
Благодаря достижениям в области искусственного интеллекта поддельный видеоконтент, известный как deepfakes, представляет серьезную и растущую опасность, когда дело доходит до распространения дезинформации. По мере того как эти измененные клипы становятся все более убедительными, возникает настоятельная потребность в инструментах, помогающих отличить их от настоящих. Компьютерщики из Университета Буффало только что предложили убедительный пример того, как это может выглядеть, разработав технологию, которая, по их словам, может обнаруживать глубокие подделки на портретных фотографиях с 94-процентной эффективностью, анализируя крошечные отражения в глазах.
Deepfakes-это искусственные носители информации, созданные путем обучения алгоритмов глубокого обучения на реальных человеческих видеозаписях и смешивания их с компьютерными изображениями для создания вымышленных видеоматериалов. Они становятся все более реалистичными, но не такими безобидными, как это отредактированное видео персонажа "Игры престолов" Джона Сноу, извиняющегося за финал шоу.
Эксперты все больше опасаются влияния технологии deepfake на выборы из-за сфальсифицированных видеороликов, в которых политики, похоже, говорят то, чего никогда не говорили.
Исследование, возглавляемое командой из Университета Буффало, было инициировано компьютерным ученым Сивэем Лю, который стремился разработать новый инструмент обнаружения глубоких подделок, используя крошечные отклонения в отражении глаз. Когда мы смотрим на что-то в реальной жизни, его отражение появляется в обоих наших глазах одного и того же цвета и формы. "Роговица похожа на совершенное полушарие и обладает высокой отражательной способностью", - говорит Лю. - Итак, все, что попадает в глаз со светом, испускаемым этими источниками, будет иметь изображение на роговице. Эти два глаза должны иметь очень похожие отражательные паттерны, потому что они видят одно и то же. Это то, что мы обычно не замечаем, когда смотрим на лицо."
Но с deepfakes ситуация иная, возможно, из-за того, что для его создания было использовано много разных изображений. Лю и его команда создали компьютерный инструмент, который нацелен на этот недостаток, сначала составляя карту лица, исследуя глаза, затем глазные яблоки, а затем свет, отраженный в каждом глазном яблоке. Затем инструмент сравнивает различия в форме, освещенности и интенсивности отраженного света в мельчайших деталях.
Экспериментируя со своим новым инструментом на сочетании реальных портретов и глубоких фейков, команда обнаружила, что они могут различать последние с эффективностью 94%. Несмотря на эту многообещающую цифру, команда отмечает, что подход все еще имеет несколько ограничений. Среди них тот факт, что эти отклонения могут быть исправлены с помощью программного обеспечения для редактирования и что изображение должно иметь четкую видимость для глаз, чтобы техника работала.
Напомним, что ранее сообщалось, что соцсети начнут бороться с фейковыми видео.
