Microsoft показва AI, който генерира хиперреалистични deepfakes от 1 снимка

O ВАСА-1 е най-новият AI от Microsoft, предназначени да създават хиперреалистични deepfakes от една снимка или рисунка на човек. Инструментът впечатлява със способността си да възпроизвежда точно изражението на лицето и движенията на главата, създавайки илюзията, че човекът на снимката всъщност изразява нещо. В демонстрации, представени от Microsoftили ВАСА-1 впечатлен от възпроизвеждането на движение на устните, синхронизирано с аудиото и създаване на изражения, които не присъстват в оригиналните снимки, което води до изключително убедителни видеоклипове.

Новият инструмент поражда загриженост относно етичното използване на технологиите deepfake, тъй като способността му да създава реалистични видеоклипове с малко входна информация може потенциално да се използва за създаване на фалшиви новини, клеветнически видеоклипове и дори измами. Следователно, на Microsoft работи, за да гарантира, че ВАСА-1 да се използва отговорно и етично.

Какво е VASA-1 и как работи?

Изглежда вярно, но видеото по-горе е просто a deepfake. В ВАСА-1 представлява значителен напредък в генерирането на реалистични говорещи лица чрез изкуствен интелект. О ВАСА-1 е в състояние да създава видеоклипове на говорещи лица от едно неподвижно изображение, било то снимка или рисунка, на индивид и аудио клип на реч. Тези получени видеоклипове включват не само движения на устните, синхронизирани с аудиото, но и широка гама от естествена динамика на лицето и движения на главата, постигайки високо ниво на реализъм и яркост.

За разлика от предишните методи, ВАСА-1 подхожда холистично към генерирането на говорещи лица, като разглежда всички възможни движения на лицето, като изражения, движения на очите и мигания, като уникални латентни променливи. Освен това, ВАСА-1 включва незадължителни знаци за кондициониране, като основна посока на погледа, разстояние на главата и емоционално изместване, в процеса на обучение. Това прави генеративното моделиране на сложни разпределения по-управляемо и увеличава отчитането на генерирането. Във видеото по-долу, например, ВАСА-1 демонстрира различни опции за посока на погледа в deepfake.

Един от най-впечатляващите аспекти на ВАСА-1 е способността му да генерира говорещи лица в реално време, което го прави идеален за приложения за интерактивна комуникация. Чрез балансиране на качеството на генериране на видео с изчислителна ефективност, ВАСА-1 Той значително надминава съществуващите методи, като ни доближава до бъдеще, в което дигиталните аватари, задвижвани от AI, могат да взаимодействат с нас толкова естествено и интуитивно, колкото и взаимодействията с реални хора.

Представянето на ВАСА-1 може да променя външния вид, триизмерната позиция на главата и динамиката на лицето, което позволява отделно управление на атрибути и редактиране на генерираното съдържание. Това означава, че дори с една входна снимка е възможно да се генерират видеоклипове на говорещи лица с различни поредици от движения или да се приложат различни снимки към една и съща поредица от движения, което води до голямо разнообразие от възможности за персонализиране и контрол върху генерираното съдържание.

Опасности от deepfakes

O ВАСА-1, въпреки възможните си положителни приложения, също представлява значителни рискове, свързани със създаването на deepfakes. Тази технология може да бъде злоупотребена за създаване на изключително убедителни фалшиви видеоклипове, в които човек е изобразен да прави или казва нещо, което никога не се е случвало. Тези дълбоки фалшификати имат потенциала да причинят сериозна вреда, като разпространяване на дезинформация, манипулиране на общественото мнение, клевета на лица и дори подбуждане на социални или политически конфликти.

Особено по време на изборни периоди, технологията може да генерира проблеми, произтичащи от злонамерена употреба със създаването на политически дълбоки фалшификати. С тази технология е възможно да се създават видеоклипове на политици или обществени фигури, които правят фалшиви речи или извършват компрометиращи действия. Тези видеоклипове могат да бъдат използвани за влияние върху избори, подкопаване на общественото доверие в лидери и институции и генериране на политическа нестабилност.

Използването на Deepfakes предизвика вниманието и загрижеността на няколко правителства по света. В Бразилия, TSE забрани използването на дълбоки фалшификати в изборите, като мярката е одобрена през февруари тази година. Тази забрана има за цел да предотврати манипулирането на информация и да защити целостта на изборния процес, предотвратявайки използването на фалшиви видео и аудиозаписи за нанасяне на вреда или фаворизиране на кандидати. Неправилното използване на deepfakes може да доведе до отнемане на мандат или регистрация на кандидатура.

По-специално Китай е пионер във всеобхватното регулиране на използването на тези технологии. Неговото законодателство, по-широко от това, прието от някои западни правителства, се разглежда като инструмент за поддържане на социална стабилност. Той изрично забранява създаването на deepfakes без съгласие и изисква ясна идентификация на генерираното от AI съдържание.

Тревожен пример се случи след руската инвазия в Украйна, когато дълбоко фалшиво видео беше широко разпространено в социалните медии. В него украинският президент Володимир Зеленски изглежда нарежда на войските си да се предадат, нещо, което всъщност никога не се е случило. Освен това, deepfakes могат да се използват по-широко в ежедневни ситуации, като например създаване на фалшиви видеоклипове на знаменитости, приятели или семейство, създавайки объркване и увреждайки репутацията на участващите хора.

прогноза за освобождаване

A Microsoft разпознава рисковете, свързани с ВАСА-1 и се ангажира да гарантира, че инструментът е разработен и използван отговорно. Поради потенциалните проблеми с етиката, поверителността и сигурността, които ВАСА-1 може да генерира Microsoft Все още няма дата на пускане за широката публика.

Компанията работи активно за прилагане на мерки за сигурност и контрол, които помагат за смекчаване на рисковете от злоупотреба с технологии. Разработчиците работят за подобряване на автентичността на генерираните видеоклипове и разработват методи за откриване на deepfake, които могат да помогнат в борбата с злоупотребата с технологията, преди да обмислят пускането й за широката публика.

Вижте тази и други новини за Showmetech TRIO:

Вижте също:

Източници: PCMag, Microsoft e Удари

Прегледан от Glaucon Vital на 22г.