СледваСледващо ръководство
Cheapfakes vs Deepfakes
Визуален AI
РЪКОВОДСТВО за визуален AI
Дийпфейкове
Deepfakes са синтетични или манипулирани медии, които могат да накарат хората да изглеждат сякаш казват или правят неща, които не са направили.
Чуйте това ръководствоAI-разказан · ~2 min
На тази страница2 минути четене
Преглед
Терминът често се отнася до лица или гласове, но подвеждащите медии могат да използват много техники. Оценявайте произхода и контекста, вместо да разчитате само на това колко убедително изглежда дадено изображение или запис.
Основни изводи
- Проверете произхода и контекста.
- Отнасяйте се към резултатите от детектора като към доказателство с ограничения.
- Независима проверка на последващите заявки.
Дълбоко гмуркане
Разграничете упълномощеното творческо редактиране от измамното представяне. Съгласието, разкриването, целта и правата на изобразените хора имат значение. Една технически впечатляваща трансформация не прави всяка употреба подходяща. Инструментите за откриване могат да предоставят сигнали, но тяхната ефективност зависи от носителя, методите за генериране, компресията и условията за оценка. Резултатът на детектора не трябва да се третира като окончателна присъда, без да се разбират неговите ограничения и нива на грешки. Използвайте независима проверка за последващи заявки. Ако изглежда, че запис разрешава чувствително действие, потвърдете заявката чрез доверен, предварително установен канал. Не разчитайте на информация за контакт, предоставена само от подозрителното съобщение. Записите за произход и идентификационните данни за съдържание могат да помогнат за идентифициране на записаната история на даден актив, но те не доказват автоматично всяко твърдение в сцената. Запазете оригиналните файлове, когато разследвате и избягвайте да увеличавате непотвърдените обвинения. Ясно етикетирайте синтетичния материал, когато го публикувате в контекст, в който зрителите иначе биха могли да бъдат подведени.
04Работен пример
Проверете привидно разрешение
Представете си, че получавате гласово съобщение, което звучи като колега, който иска промяна на чувствителен акаунт.
Поставете действието на пауза и се свържете с колегата чрез номер или канал, за който вече е известно, че е валиден.
Проверете независимо подробностите на заявката, вместо да разглеждате сходството на гласа като достатъчно разрешение.
Какво показва
Хипотетичният пример използва практическа стъпка за проверка, без да се предполага, че всяко необичайно съобщение е синтетично.
Внедряване в реалния свят
Потвърдете необичайна заявка чрез установен канал за контакт.
Запазете оригиналния носител и информация за произхода за отговорен преглед.
Прилагайки го на практика
Защо има значение
- Скорост и мащаб. Visual AI може да автоматизира задачи за проверка, откриване и маркиране в мащаб.
- Избор на билдове. Творческите екипи могат да създават прототипи на концепции по-бързо с по-малко ръчни ревизии.
- Екип и работен процес. Операциите могат да използват изображения и видео сигнали, които преди са били трудни за обработка.
Внимавайте за
- Правата върху изображението и съгласието могат да се превърнат в правни рискове, ако произходът е неясен.
- Производителността на модела може да варира в зависимост от осветлението, демографските данни и средата.
- Фалшивите положителни резултати могат да останат незабелязани, освен ако не се наблюдават праговете на достоверност.
Следващи стъпки
- Определете критерии за приемане за прецизност, извикване и разходи за грешки.
- Тествайте с данни, които съответстват на реалните производствени условия.
- Добавете преглед от човек за прогнози с ниска степен на сигурност или с голямо въздействие.
- Проследявайте дрейфа на модела и проверявайте отново след промени в камерата или набора от данни.
Източници и допълнителна литература
Продължете да изследвате
Безплатен бюлетин
Получавайте дневния AI бюлетин
Три проверени AI истории всяка делнична сутрин, написани на достъпен език. Безплатно завинаги, без реклами.
Един имейл всеки делничен ден. Отписване с едно кликване. Никога не продаваме и не споделяме вашия имейл адрес.
Тествайте себе си
Take the Deepfakes quiz
Незабавна обратна връзка за всеки отговор и сертификат за споделяне с подлежащ на проверка идентификационен номер, след като преминете курс.
Подкрепете безплатното AI образование. AI Understanding е 501(c)(3) с нестопанска цел — без реклами, без платен достъп, никога. Направете дарение
Често задавани въпроси
Мога ли да докажа, че даден видеоклип е фалшив, само защото детектор го маркира?
Не само от този сигнал. Проучете границите на детектора, оригиналния носител, произхода и независимите доказателства.
Продължавай да учиш
Свързани ръководства
Още ръководства, избрани за тази тема