Хиймэл оюун ухаан ийм байдлаар таны мэдээллийг хулгайлдаг

Хиймэл оюун ухаан ийм байдлаар таны мэдээллийг хулгайлдаг

Америк, Швейцарийн их сургуулийн хэсэг судлаачид Google болон түүний охин компани DeepMind-тай хамтран DALL-E, Imagen, гэх мэт хиймэл оюун ухааны үүсгүүрийн загварууд дээр суурилсан зураг үүсгэх платформоос өгөгдөл хэрхэн урсаж болохыг тайлбарласан судалгааны өгүүлэл нийтлэв. эсвэл Тогтвортой тархалт.

Хэрэглэгч "авокадо хэлбэртэй сандал" гэх мэт тодорхой текстийн сандал дээр бичиж, хэдхэн секундын дотор текстээс зураг авах зэрэгт тулгуурлан бүгд ижил аргаар ажилладаг.

Эдгээр платформд ашиглагдаж буй хиймэл оюун ухааны загваруудыг урьдчилан тодорхойлсон дүрслэл бүхий маш олон тооны зураг дээр сургасан байна.Мэдрэлийн сүлжээ нь сургалтын асар их хэмжээний өгөгдлийг боловсруулсны дараа шинэ, өвөрмөц зураг үүсгэх боломжтой гэсэн санаа юм.

Гэсэн хэдий ч шинэ судалгаагаар эдгээр зургууд нь үргэлж өвөрмөц байдаггүйг харуулж байна.Зарим тохиолдолд мэдрэлийн сүлжээ нь сургалтанд ашигласан өмнөх зурагтай яг таарч байгаа зургийг хуулбарлаж чаддаг.Энэ нь мэдрэлийн сүлжээ нь хувийн мэдээллийг санамсаргүйгээр илчилж болно гэсэн үг юм.

Энэхүү судалгаа нь зураг үүсгэхэд ашигладаг хиймэл оюун ухааны загварууд нь сургалтын өгөгдлөө хадгалдаггүй, хэрэв задруулахгүй бол сургалтын мэдээлэл нууц хэвээр үлдэнэ гэсэн үзэл бодлыг эсэргүүцэж байна.

Илүү их мэдээлэл өгнө үү

Гүн сургалтын системийн үр дүн нь мэргэшсэн бус хүмүүст гайхалтай байж болох бөгөөд тэд өөрсдийгөө ид шид гэж бодож чаддаг ч бодит байдал дээр бүх мэдрэлийн сүлжээнүүд ижил зарчим дээр ажилладаг тул энэ асуудалд ид шид гэж байдаггүй. их хэмжээний өгөгдөл, зураг тус бүрийн үнэн зөв тайлбарыг ашиглан, жишээлбэл: муур, нохойны цуврал зургууд.

Сургалтын дараа мэдрэлийн сүлжээ нь шинэ дүр төрхийг харуулж, муур эсвэл нохой эсэхийг шийдэхийг хүсдэг. Энэхүү даруухан цэгээс эдгээр загварыг хөгжүүлэгчид илүү төвөгтэй хувилбарууд руу шилжиж, муурны олон зураг дээр сургасан алгоритмыг ашиглан байхгүй гэрийн тэжээмэл амьтны дүр төрхийг бий болгодог. Эдгээр туршилтууд нь зөвхөн зураг төдийгүй текст, видео, тэр ч байтугай дуу авианы тусламжтайгаар хийгддэг.

Бүх мэдрэлийн сүлжээнүүдийн эхлэх цэг нь сургалтын өгөгдлийн багц юм.Мэдрэлийн сүлжээ нь агаараас шинэ объект үүсгэж чадахгүй. Жишээлбэл, муурны дүр төрхийг бий болгохын тулд алгоритм нь олон мянган бодит гэрэл зураг эсвэл муурны зургийг судлах ёстой.

Мэдээллийн багцыг нууцлахын тулд маш их хүчин чармайлт гаргасан

Судлаачид өөрсдийн нийтлэлдээ машин сургалтын загварт онцгой анхаарал хандуулдаг.Тэд дараах байдлаар ажилладаг: тэд дуу чимээ нэмснээр сургалтын өгөгдлийг-хүмүүс, машин, байшин гэх мэт дүрсийг гажуудуулдаг.Дараа нь мэдрэлийн сүлжээг сэргээхэд сургадаг. эдгээр зургуудыг анхны байдалд нь оруулаарай.

Энэ арга нь хүлээн зөвшөөрөгдсөн чанартай зураг үүсгэх боломжийг олгодог боловч жишээлбэл, үүсгүүрийн өрсөлдөөнт сүлжээн дэх алгоритмуудтай харьцуулахад боломжит сул тал нь өгөгдөл алдагдуулах хандлагатай байдаг. Эндээс анхны өгөгдлийг дор хаяж гурван өөр аргаар гаргаж авч болно, тухайлбал:

Мэдрэлийн сүлжээг олон мянган зураг дээр үндэслэн бүтээсэн өвөрмөц зүйл биш харин тодорхой эх зургийг гаргахын тулд тусгай асуулга ашиглана.
Анхны зургийг зөвхөн нэг хэсэг нь боломжтой байсан ч сэргээж болно.
Сургалтын өгөгдөлд тодорхой дүрс орсон эсэхийг энгийнээр тодорхойлох боломжтой.
Ихэнх тохиолдолд мэдрэлийн сүлжээнүүд залхуу байдаг бөгөөд шинэ зураг гаргахын оронд нэг зургийн олон хуулбарыг агуулсан сургалтын багцаас ямар нэгэн зүйл гаргадаг. Хэрэв сургалтын багцад зураг зуу гаруй удаа давтагдсан бол түүнийг анхны хэлбэрээр нь алдах магадлал маш өндөр байна.

Гэсэн хэдий ч судлаачид анхны багцад зөвхөн нэг удаа гарч ирсэн сургалтын зургуудыг олж авах арга замыг харуулсан. Судлаачдын туршсан 500 зурагнаас алгоритм санамсаргүй байдлаар гурвыг нь дахин бүтээжээ.

Хэнээс хулгай хийсэн бэ?

2023 оны XNUMX-р сард гурван зураач хиймэл оюун ухаанд суурилсан зураг үүсгэх платформуудыг өөрсдийн онлайн зургуудыг ашиглан загвар өмсөгчдөө сургахдаа зохиогчийн эрхийг үл хүндэтгэсэн хэргээр шүүхэд өгсөн.

Мэдрэлийн сүлжээ нь уран бүтээлчийн хэв маягийг хуулбарлаж, орлогоосоо хасдаг. Зарим тохиолдолд алгоритмууд янз бүрийн шалтгааны улмаас шууд хулгай хийж, зураг, гэрэл зураг болон бодит хүмүүсийн бүтээлтэй бараг ижил төстэй бусад зургийг бүтээдэг болохыг баримт бичигт тэмдэглэжээ.

Тиймээс судлаачид анхны сургалтын багцын онцлогийг сайжруулах зөвлөмжийг гаргажээ.

1- Сургалтын бүлгүүдэд давталтыг арилгах.
2- Сургалтын зургийг дахин боловсруулах, жишээлбэл, дуу чимээ нэмэх эсвэл гэрэлтүүлгийг өөрчлөх; Энэ нь өгөгдөл алдагдах магадлалыг бууруулдаг.
3- Сургалтын тусгай зургуудыг ашиглан алгоритмыг турших, дараа нь үүнийг санамсаргүйгээр хуулбарлахгүй байхыг баталгаажуулах.

дараа нь юу вэ?

Уран бүтээлийн платформууд сүүлийн үед уран бүтээлчид болон технологи хөгжүүлэгчдийн хооронд тэнцвэртэй байдлыг эрэлхийлэх ёстой гэсэн сонирхолтой мэтгэлцээнийг өрнүүлсэн нь гарцаагүй. Нэг талаас зохиогчийн эрхийг хүндэтгэх ёстой, нөгөө талаас хиймэл оюунаар бий болсон урлаг хүний ​​урлагаас тэс өөр үү?

Гэхдээ аюулгүй байдлын талаар ярилцъя. Энэхүү баримт бичигт зөвхөн нэг машин сургалтын загварын талаархи тодорхой багц баримтуудыг толилуулж байна. Үзэл баримтлалыг ижил төстэй бүх алгоритмуудад өргөжүүлснээр бид сонирхолтой нөхцөл байдалд хүрнэ. Үүрэн сүлжээний операторын ухаалаг туслах нь хэрэглэгчийн хүсэлтийн дагуу компанийн нууц мэдээллийг дамжуулдаг, эсвэл нийтийн мэдрэлийн сүлжээнд хэн нэгний паспортын хуулбарыг үүсгэхийг шаардсан хуурамч скрипт бичдэг хувилбарыг төсөөлөхөд хэцүү биш юм. Гэсэн хэдий ч ийм асуудал одоогоор онолын шинж чанартай хэвээр байгааг судлаачид онцолж байна.

Гэхдээ скрипт үүсгэх загварууд нь: ChatGPT нь одоо жинхэнэ хортой код бичихэд ашиглагдаж байгаа тул одоо бидэнд тулгарч буй бусад бодит асуудлууд байна.

Мөн GitHub Copilot програмистуудад асар их хэмжээний нээлттэй эхийн програм хангамжийг оролт болгон ашиглан код бичихэд тусалдаг. Энэхүү хэрэгсэл нь код нь маш өргөн хүрээтэй сургалтын мэдээллийн багцад дуусдаг зохиогчдын зохиогчийн эрх, нууцлалыг үргэлж хүндэтгэдэггүй.

Мэдрэлийн сүлжээнүүд хөгжихийн хэрээр тэдгээрийн эсрэг дайралт хийх болно, үр дагавар нь хэн ч ойлгохгүй байна.

Магуи Фарагийн 2023 оны зурхайн таамаглал