Как да откриваме измами и фалшиви измами с изкуствен интелект и най-добри практики

Само за няколко години преминахме от това да гледаме на дийпфейковете като на обикновена любопитност в социалните мрежи до това да ги превърнем в реална заплаха за сигурността, репутацията и парите на хора и компании. Комбинацията от онлайн измами, кражба на самоличност и хиперреалистично синтетично съдържание Това задейства тревога в банковото дело, медиите, публичната администрация и практически във всеки сектор, който работи с видео, аудио или биометрични данни.

В същото време, защитните системи също са се развили значително. Днес съществуват системи, способни на Откриване на измами и фалшиви данни в реално време, анализ на синтетични документи, блокиране на атаки с видео инжектиране И освен това, да се спазват все по-строгите регулаторни изисквания. Предизвикателството вече не е само „да се види дали дадено видео е фалшиво“, а да се изгради цялостна система, която обхваща всички вектори на атака, работи в голям мащаб и поддържа добро потребителско изживяване.

Какво е дийпфейк и защо се е превърнал в инструмент за измами?

Дълбоките фалшификации (Deepfakes) се раждат от обединението на две концепции: дълбоко обучение (deep learning) и фалшифициране на съдържание (content falsificating). Терминът обхваща видеоклипове, изображения и аудио, генерирани или манипулирани с изкуствен интелект за да изглеждат автентични, когато в действителност показват нещо, което никога не се е случвало.

На техническо ниво те са базирани на дълбоки невронни мрежи, обучени с множество изображения или записи на човек от различни ъгли, с различни изражения и в различен контекст. Алгоритъмът „изучава“ как изглежда, движи се и говори този индивидОттам е в състояние да синтезира нови кадри и гласови фрагменти, които отговарят на този модел.

Има две често цитирани семейства:

• Дълбоко лице: размяна на лица в изображения и видеоклипове, клониране на жестове и изражения, така че човек да изглежда като главния герой на сцени, които никога не е преживявал.
• Дълбок гласКлониране на глас, при което се генерират нови фрази от реални записи, които субектът никога не е изричал, но звучат така, сякаш ги е изричал.

Въпреки че много от ранните тестове бяха безобидни шеги или измами, Скокът към злонамерени употреби е огроменВече не говорим само за мемета с известни актьори, а за политически дезинформационни кампании, видеоклипове за отмъщение, изнудване, шантаж, манипулиране на фондовия пазар или банкови измами, включващи представяне за ръководители.

Дийпфейкове, измами и дезинформация: реалният риск

Най-големият проблем с дийпфейковете не е само тяхното съществуване, но и колко лесно и евтино е днес да се произвеждат с приемливо качествоС достъпни приложения всеки може да наслагва лица, да клонира гласове или да генерира много убедителни кратки видеоклипове, без да е необходимо да знае как да програмира.

Данните за измами с самоличност ясно отразяват това: само за една година различни международни доклади са установили, че Случаите на измами, включващи deepfakes, са се увеличили няколко пъти.Това съвпада с широкото разпространение на инструменти за генеративен изкуствен интелект. Това засяга както големите компании, така и индивидуалните потребители.

В сферата на дезинформацията въздействието е още по-тревожно. Манипулирани видеоклипове с участието на политици, лидери на общественото мнение или известни личности позволяват:

• Влияние върху общественото мнение в избирателни процеси или поляризирани дебати.
• Увеличаване на общото недовериедо степен, че става трудно да се разграничи кои новинарски истории, речи или пресконференции са реални.
• Да дискредитира хора или институции разпространявайки твърдения, които никога не са правили.

На социално ниво се наблюдава обратен ефект: от една страна, потребителите признават, че им става все по-трудно да различават истината от лъжата; от друга страна, Самата възможност нещо да е дийпфейк се превръща в извинение за отричане на реални факти. които са записани на видео.

Освен това има ключов емоционален компонент. Експертите по комуникация и дезинформация посочват, че Съдържание, което апелира към страх, гняв или предразсъдъци, става вирусно много по-бързо.Много дийпфейкове са създадени именно за да предизвикат тези емоции и да принудят хората да ги споделят, без да проверяват.

Сценарии за атака: как се използват дийпфейкове и изкуствен интелект за извършване на измами

Когато говорим за „откриване на дийпфейкове“, е обичайно да се мисли само за фалшиво видео, но истинските системи за измами са много по-широки. Сложните кампании комбинират различни видове атаки и технологиив зависимост от това кои контроли целевата платформа открива или не открива.

Можем да различим поне три ключови сценария:

• Атаки при презентации пред камератаНападателят показва нещо пред истинска камера. Това може да включва отпечатани снимки, 2D или 3D маски, екрани, показващи видеоклипове на друг човек, или дори генерирано от изкуствен интелект лице, движещо се в реално време.
• Атаки с видео инжектиранеВместо да използва физическа камера, извършителят прихваща или замества потока от данни, пристигащ в системата за проверка. Платформата „вярва“, че получава сигнал от камера, но в действителност това е предварително записано или генерирано от изкуствен интелект видео, инжектирано от софтуер.
• Синтетични документи за самоличност: паспорти, лични карти или шофьорски книжки, генерирани или манипулирани с изкуствен интелект, които включват биометрични снимки и лични данни, съответстващи помежду си, но принадлежащи на фалшива самоличност.

В първия случай системата поне вижда нещо физическо пред обектива. Въпреки това, Техниките за лицево имитиране стават все по-реалистични. и могат да заобиколят контролите за „селфита с жестове“ или основните тестове за жизненост.

Във втория сценарий опасността е още по-голяма: Всъщност няма никой пред камератаПрисъствието на потребителя е напълно симулирано и ако платформата не защити правилно транспортния слой, атаката може да остане незабелязана, дори ако визуалният анализ на видеото изглежда правилен.

В третия случай проблемът се измества към самия документ: отпечатаните данни, професионалните снимки и оформлението на подкрепата изглеждат напълно официални, но в действителност те са генерирани с AI модели, обучени върху автентични шаблони.

Дийпфейкове и банкиране: от Червената шапчица до многомилионни измами

Финансовият сектор се превърна в една от основните цели на дийпфейкове и други кибератаки. Банките вече се сблъскват с клонирани гласови повиквания, видео разговори с фалшиви лица и синтетични документи за самоличност. по време на процесите на регистрация на клиенти или оторизации на чувствителни транзакции.

Някои организации са използвали много графични метафори, за да го обяснят: вълкът в „Червената шапчица“ вече не чака в гората, а в мобилния ви телефон, криейки се зад... Видеоклипове и аудиозаписи, които се представят за доверени хора като например член на семейството, колега или дори самата банка. Идеята е проста: спечелете доверието на жертвата и я убедете да предаде лична информация, кодове или да разреши преводи.

Този вид измама се възползва както от техническата сложност, така и от човешкия фактор:

• Спешност и емоционален натиск„Трябва да направите този превод сега“, „иначе ще загубим парите“.
• Очевидна властЧовекът, с когото говорите, изглежда като шеф, мениджър или банков служител.
• Използване на реална информация: проверими данни от акаунти, минали транзакции или лични данни, получени чрез течове или социално инженерство, които засилват достоверността на дийпфейка.

Финансовите компании са подложени и на силен регулаторен натиск от органи като звената за финансово разузнаване и Специалната група за финансови действия. Те считат заобикалянето на контрола на самоличността чрез дийпфейкове като релевантен фактор за подозрение.Това налага прилагането на по-строг контрол, по-добро записване на всяка проверка и демонстриране, че е била упражнена надлежна проверка.

Откриване на измами и фалшиви измами като непрекъсната система, а не като обикновен филтър

Един от най-големите уроци, които компаниите, борещи се с този вид измами, са научили, е, че Не е достатъчно да има „модел на изкуствен интелект, който разпознава фалшиви лица“Ефективното разкриване е непрекъснат, многостепенен процес, интегриран в цялостния процес на проверка на самоличността.

Една съвременна система обикновено включва три основни слоя, които работят паралелно:

• Анализ на презентацията пред камерата: изследва видеото на живо или селфито за физически характеристики, които доказват реално присъствие.
• Откриване и блокиране на видео инжектиране: следи пътя на данните от камерата до сървъра, за да предотврати заместването им от синтетичен поток.
• Съдебномедицински анализ на документиТой проверява паспорти, лични карти и други идентификационни данни, за да открие дали са били променени или генерирани изцяло от изкуствен интелект.

Всеки слой решава различен проблем. Система, която анализира само лицето във видеото, няма да открие инжекционна атака.Защото сигналът, който получава, е вече „подготвен“. И решение, което проверява само документи, няма да попречи на някого да използва deepfake видео във видео разговор за възстановяване на акаунт.

Следователно, платформите на корпоративно ниво обикновено интегрират тези три слоя в рамките на един механизъм за вземане на решения за идентичност. Резултатите от откриването на фалшиви данни се комбинират с традиционните KYC и AML сигнали. (списъци със санкции, публични бази данни, модели на транзакции и др.), за да се получи обща оценка на риска.

Техники за откриване: от пиксели до транспортна мрежа

Използват се множество допълващи се техники за идентифициране на дийпфейкове и измами. Нито една не е перфектна сама по себе си, но В комбинация те позволяват значително увеличение на предпазната лента. без умножаване на фалшиво положителните резултати.

Сред най-актуалните са:

• Анализ на текстурата и дълбочинатаМоделите с изкуствен интелект изследват кожата, косата и други елементи, търсейки фини шарки, които не съответстват на реално изображение. Те също така оценяват 3D дълбочината, за да проверят дали лицето съответства на физически обект пред камерата.
• Отразителни модели и кръвен потокНачинът, по който светлината се отразява от кожата или как цветът леко варира поради притока на кръв под повърхността, е много трудно да се възпроизведе перфектно в много дийпфейкове.
• Артефакти в честотната област и компресиятаОсвен цвета и формата, се анализират пространствените и времевите честоти на видеото, както и характерният „шум“, оставен от компресията на реални камери спрямо синтетични генератори.
• Мониторинг на микроизражения и миганеМалките неволни изражения, времето за мигане и много фините мускулни движения могат да издадат изкуствено генериране, особено при нискокачествени дийпфейкове.

В документите за самоличност анализът се фокусира върху други елементи. Едно просто OCR, което чете текста, не е достатъчно, защото Генерираният от изкуствен интелект паспорт може да използва правилни шрифтове, текст и данни.Криминалистичното разкриване се фокусира върху:

• Специфичен микропечат за всяка държава или емитент.
• Точно местоположение на холограми, печати и защитни елементи.
• Модели на компресия и шум, типични за дигитализирани официални документи.
• Несъответствия на ниво пиксел, които генеративните модели са склонни да възпроизвеждат лошо.

На мрежовото ниво приоритетът е различен. Тук фокусът е върху... проверете целостта на потока от данни Този процес варира от камерата до сървъра за проверка: използване на виртуални драйвери, пренасочване на сигнала, използване на инструменти, които инжектират видео, сякаш е от уеб камерата и т.н. Понякога не става въпрос толкова за „виждане“ на дийпфейка, колкото за предотвратяване на пристигането му.

Мащабно откриване в реално време: предизвикателството пред производителността

Точният анализ на всеки детайл от видеоклип или документ изисква значително количество изчислителна мощност. Въпреки това, Търговските системи не могат да си позволят да отговорят за минутиПроцесът на регистрация на клиент или силно удостоверяване трябва да се извърши за секунди, както за потребителското изживяване, така и за оперативните разходи.

За да се реши този проблем, много решения са възприели поетапен подход:

• Първо бързо подаване с леки модели, които филтрират повечето сесии за две или три секунди, маркирайки най-лесните за класифициране като „очевидно легитимни“ или „очевидно измамни“.
• Задълбочен анализ само за съмнителни случаи, при които се активират по-тежки модели, комбиниращи множество изгледи (RGB, спектрален анализ, оценка на дълбочината и др.).
• Ескалиране до човешка проверка когато сигналите остават нееднозначни или надвишават праг на риск, предварително определен от областта на измами или съответствие.

Благодарение на този дизайн, средното време за вземане на решения остава ниско, въпреки че в малък процент от сесиите се отделят повече ресурси. Освен това нивото на триене може да се регулира:

• Активно откриване на присъствиеОт потребителя се иска да направи микрожест (да завърти глава, да мигне, да се усмихне), за да потвърди, че е физически налице.
• Пасивно откриванеСистемата извлича необходимите сигнали във фонов режим, без потребителят да е длъжен да следва инструкции, идеално за потоци с нисък риск, където не искате да безпокоите клиента.

Целта е да се предоставят инструменти, така че всеки бизнес да може да определи своята политика: Повече контрол и гъвкавост при чувствителни операции, по-плавно изживяване при процеси с нисък рисквинаги поддържайки добро покритие срещу атаки с фалшифициране.

Гранични случаи: осветление, евтини устройства и демографско разнообразие

В реалния свят много малко проверки се извършват с перфектно осветление и професионална камера. Системите за откриване на фалшиви данни и измами трябва да работят и с евтини мобилни телефони, слаби връзки и трудни условия на осветление..

Това въвежда значителни предизвикателства:

• Камери с шум и ниска резолюция, които влияят на анализа на микродетайлите.
• Силни сенки, подсветка или цветови вариации, които объркват някои модели.
• Частични запушвания на лицето (маски, големи очила, ръце), които покриват ключови точки.
• Разлики между документи от различни страни, стари и нови формати и др.

За да избегнат несправедливо наказване на легитимни потребители, зрелите системи са склонни да не отхвърляйте автоматично всички сесии с лошо качествоВместо това, те маркират заснемането като неубедително и предлагат алтернативи:

• Опитайте отново проверката, като насочите потребителя към подобряване на осветлението или кадрирането.
• Прехвърлете сесията на човек, ако случаят го налага.
• Поискайте втори, различен фактор за проверка (например, канал за лично присъствие или допълнителен документ), когато рискът е висок.

Освен това, нараства загрижеността относно справедливостта. Независимите тестове, като например някои правителствени програми за оценяване, ценят не само общата точност, но и ако системата работи еднакво добре във всички демографски групиМодел, който работи перфектно с един тип лице, но постоянно се проваля с други, представлява репутационен и регулаторен риск.

Как компаниите интегрират откриването на фалшиви данни в своите процеси

Големите организации не използват откриването на фалшиви съобщения като изолиран инструмент, а като допълнителен слой в рамките на процесите им на адаптация, силно удостоверяване и възстановяване на акаунтиТипичната интеграция следва подобна схема:

• По време на регистрацията на нов клиент се заснемат документи за самоличност и селфита или кратки видеоклипове.
• Преди вземането на решение, паралелно се изпълняват следните дейности: анализ на документи, AML/KYC проверки и откриване на deepfakes и presentation/injection атаки.
• Централният механизъм за вземане на решения комбинира всички сигнали, прилага правила и модели на риск и издава единна присъда (одобрение, отхвърляне, искане на допълнителни доказателства или ръчна ескалация).

Всяка бизнес единица може да конфигурира свои собствени прагове и потоци. Транзакция с висока стойност може да изисква активно откриване на присъствие и ръчен преглед дори в случай на най-малко съмнение., докато достъп с нисък риск може да бъде разрешен само с пасивно откриване.

По отношение на внедряването, има три често срещани модела:

• On-помещениеЦялата биометрична обработка се извършва в собствената инфраструктура на организацията, което е ключово за силно регулирани сектори или такива със строги задължения за съхранение на данните.
• В облака: позволява по-бързи актуализации на AI модели и мащабиране на ресурси при поискване.
• Хибридна архитектураНай-чувствителната част (биометрични данни, сурови изображения) се обработва вътрешно, докато по-малко критичните метаданни могат да бъдат преместени в облака за разширен анализ и съхранение.

Изборът обикновено се определя от местни и секторни разпоредби, а не от просто технологично предпочитание. Спазвайте законите за защита на данните и изискванията на финансовите надзорници Това е също толкова важно, колкото и хващането на измамниците.

Оценка на доставчиците на услуги за откриване на фалшиви данни: какво наистина да търсите

На пазар, където почти всеки обещава „точност над 99%“, добрият избор не е лесен. Вътрешните показатели, показвани от всеки доставчик, обучени върху собствените му набори от данни, казват сравнително малко за производителността в реални условия..

Ето защо оценките от трети страни и независимите сертификати носят толкова голяма тежест. Някои рамки за оценяване са се превърнали в еталони, като например:

• Програми за сертифициране на откриване на атаки чрез презентации, които подлагат системите на набор от стандартизирани тестове със снимки, маски и видеоклипове.
• Мащабни технологични демонстрации, при които поведението на решенията се измерва в демографски разнообразни популации, с реални устройства и потребителски среди.

Когато анализирате предложение, винаги е препоръчително да поискате много конкретни цифри:

• Процент на фалшиво приемане при неблагоприятни сценарии (колко измами преминават филтъра, когато нападателят го прави правилно).
• Действителен процент на приемане за легитимни потребителизащото система, която блокира твърде много невинни хора, не е функционална.
• Заснемане на неуспехи и грешки, разбити по тип устройство и демографска групаза да се види дали има някакви отклонения или проблеми със специфичен хардуер.

Тези три показателя, далеч повече от общата „99% точност“, ви позволяват да разберете дали дадено решение отговаря на нивото на риск и типа клиенти на дадена организация.

Практически съвети за потребителите: как да откривате дийпфейкове в ежедневието си

Въпреки че големите компании използват съвременни технологии, потребителите също могат да дадат своя принос, като се научат да разпознават подозрителни сигнали. Разчитането единствено на зрението става все по-малко надеждно.Но комбинирането на визуален анализ, контекст и критично мислене остава много полезно.

Някои насоки, които трябва да имате предвид, когато гледате подозрително видео или изображение, са:

• Търсете детайли, които не пасват.: изкривени фонове, странни ръбове в косата, сенки, които не съответстват на осветлението, ръце или шия с различна текстура от лицето.
• Внимателно наблюдавайте жестоветеАко лицето изглежда „залепено“ за тялото, тонът на кожата не съвпада или движенията са сковани и донякъде роботизирани, може да става въпрос за подмяна на лицето.
• Погледни очитеДълго време много дийпфейкове мигаха рядко или неестествено. Въпреки че техниките са се подобрили, това все още е област, в която понякога се забелязват недостатъци.
• Слушайте аудиотоПлоските, ненюансирани гласове, странните промени във височината на тона или лошото синхронизиране на устните са ясни признаци на нискокачествен дълбок глас.
• Проверете продължителносттаСъздаването на висококачествен, дълъг дийпфейк е много по-скъпо. Много компрометирани дийпфейкове са кратки клипове, които се опитват да концентрират въздействието и да скрият недостатъците.

Освен техническите аспекти, има въпроси, които винаги си струва да си зададете:

• Кой споделя това съдържание и с какво очевидно намерение?
• Има ли смисъл човекът във видеото да казва или прави това?
• Мога ли да намеря същата новина или твърдение в надеждни медии и официални източници?
• Кой печели, ако това видео стане вирусно?

Основната препоръка остава същата: Не споделяйте импулсивно нищо, което подсилва нашите страхове или предразсъдъциОтделянето на няколко минути за проверка може да ви предпази от това да станете част от веригата на дезинформация.

Битката срещу измамите и фалшивите данни (deepfakes) се води едновременно на няколко фронта: от една страна, високотехнологични индустриални решения, които комбинират компютърно зрение, мрежов анализ и документална криминалистика; от друга, регулации, които налагат повишена сигурност, без да се прави компромис с поверителността; и, успоредно с това, дигитална грамотност за потребителите, които остават първата линия на защита. Разбирането как работят тези техники, какви уязвимости използват и какви следи оставят след себе си ни поставя в много по-добра позиция да защитим своята идентичност, пари и репутация в среда, където виждането или чуването на нещо вече не е гаранция за неговата истинност.