Вештачка интелигенција краде ваше податке на овај начин

Вештачка интелигенција краде ваше податке на овај начин

Група истраживача са америчких и швајцарских универзитета, у сарадњи са Гуглом и његовом подружницом ДеепМинд, објавила је истраживачки рад у којем објашњава како подаци могу да процуре из платформи за креирање слика које свој рад заснивају на генеративним моделима вештачке интелигенције као што су: ДАЛЛ-Е, Имаген, или стабилна дифузија.

Сви они функционишу на исти начин на основу тога што корисник укуца одређени текстуални промпт, нпр. „фотеља у облику авокада“, и добије слику генерисану из текста у року од неколико секунди.

Генеративни АИ модели који се користе у овим платформама су обучени на веома великом броју слика са унапред одређеним описом.Идеја је да неуронске мреже могу да генеришу нове и јединствене слике након обраде огромне количине података за обуку.

Међутим, нова студија показује да ове слике нису увек јединствене. У неким случајевима, неуронска мрежа може да репродукује слику која се тачно поклапа са претходном сликом коришћеном у обуци. То значи да неуронске мреже могу нехотице открити приватне информације.

Ова студија доводи у питање ставове да АИ модели који се користе за генерисање слика не чувају своје податке о обуци и да подаци о обуци могу остати приватни ако се не открију.

Наведите више података

Резултати система дубоког учења могу бити невероватни за неспецијалисте и могу да мисле да су магични, али у стварности нема магије у томе, јер све неуронске мреже заснивају свој рад на истом принципу, а то је обука. користећи велики скуп података и тачне описе сваке слике, на пример: серије слика мачака и паса.

Након тренинга, неуронска мрежа приказује нову слику и од ње се тражи да одлучи да ли је мачка или пас. Са ове скромне тачке, програмери ових модела прелазе на сложеније сценарије, стварајући слику непостојећег љубимца користећи алгоритам који је обучен на многим сликама мачака. Ови експерименти се спроводе не само са сликама, већ и са текстом, видео записом, па чак и звуком.

Полазна тачка за све неуронске мреже је скуп података за обуку.Неуронске мреже не могу стварати нове објекте из ничега. На пример, да би направио слику мачке, алгоритам мора проучити хиљаде стварних фотографија или цртежа мачака.

Велики напори да скупови података буду поверљиви

У свом раду истраживачи обраћају посебну пажњу на моделе машинског учења. Они раде на следећи начин: искривљују податке о обуци – слике људи, аутомобила, кућа и тако даље – додавањем буке. Затим, неуронска мрежа се обучава да обнови ове слике у првобитно стање.

Овај метод омогућава генерисање слика прихватљивог квалитета, али потенцијални недостатак – у поређењу са алгоритмима у генеративним конкурентским мрежама, на пример – је његова већа склоност цурењу података. Оригинални подаци се из њега могу издвојити на најмање три различита начина, и то:

Коришћење специфичних упита да примора неуронску мрежу да избаци одређену изворну слику, а не нешто јединствено генерисано на основу хиљада слика.
Оригинална слика се може реконструисати чак и ако је доступан само њен део.
Могуће је једноставно одредити да ли је одређена слика укључена у податке о обуци или не.
Много пута су неуронске мреже лење и уместо да производе нову слику, производе нешто из скупа за обуку ако садржи више дупликата исте слике. Ако се слика у сету за обуку понови више од стотину пута, постоји велика шанса да ће процурити у свом скоро оригиналном облику.

Међутим, истраживачи су показали начине за добијање слика за обуку које су се појавиле само једном у оригиналном скупу. Од 500 слика које су истраживачи тестирали, алгоритам је насумично реконструисао три.

Ко је крао од?

У јануару 2023. три уметника су тужила платформе за генерисање слика засноване на вештачкој интелигенцији због коришћења њихових онлајн слика за обуку својих модела без икаквог поштовања ауторских права.

Неуронска мрежа заправо може копирати уметников стил и на тај начин га лишити прихода. У раду се примећује да у неким случајевима алгоритми могу, из различитих разлога, да се упусте у потпуни плагијат, генеришући цртеже, фотографије и друге слике које су готово идентичне раду стварних људи.

Стога су истраживачи дали препоруке за побољшање специфичности оригиналног сета за обуку:

1- Елиминишите понављање у групама за обуку.
2- Поново обрадите слике тренинга, нпр. додавањем шума или променом осветљености; То чини цурење података мање вероватним.
3- Тестирање алгоритма помоћу посебних слика за обуку, а затим провера да га ненамерно не репродукује тачно.

Шта је следеће?

Генеративне уметничке платформе су свакако изазвале интересантну дебату у последње време, ону у којој се мора тражити равнотежа између уметника и развојних технологија. С једне стране, ауторска права се морају поштовати, а са друге стране, да ли се уметност коју ствара вештачка интелигенција веома разликује од људске уметности?

Али хајде да причамо о безбедности. Рад представља специфичан скуп чињеница о само једном моделу машинског учења. Проширујући концепт на све сличне алгоритме, долазимо до занимљиве ситуације. Није тешко замислити сценарио у којем интелигентни помоћник оператера мобилне мреже преда осетљиве информације о компанији као одговор на упит корисника, или пише лажни скрипт који подстиче јавну неуронску мрежу да направи копију нечијег пасоша. Међутим, истраживачи наглашавају да такви проблеми за сада остају теоретски.

Али постоје и други стварни проблеми са којима се сада суочавамо, јер се модели генерисања скрипти као што су: ЦхатГПТ сада користе за писање стварног злонамерног кода.

А ГитХуб Цопилот помаже програмерима да пишу код користећи огромну количину софтвера отвореног кода као улаз. А алатка не поштује увек ауторска права и приватност аутора чији код завршава у веома проширеном скупу података за обуку.

Како се развијају неуронске мреже, тако ће се развијати и напади на њих, са последицама које још нико не разуме.

Хороскоп Магуи Фарах предвиђа за 2023. годину