Хиймэл оюун ухаантай хортой програм: Өөрийгөө хөгжүүлдэг кибер аюулын шинэ эрин

Хиймэл оюун ухаантай хортой програм: Өөрийгөө хөгжүүлдэг кибер аюулын шинэ эрин

Кибер аюулгүй байдлын орчин шинэ, тодорхойгүй нутаг дэвсгэрт орж байна. Хортой програм хангамж нь нэг удаа бичигдэж, ашиглагддаг статик аюул биш болж, бодит цагт хиймэл оюун ухааныг ашиглан суралцаж, дасан зохицож, хөгжиж байна.

Нээлт: PROMPTFLUX болон хиймэл оюун ухаанд суурилсан нуун дарагдуулалт

Google-ийн Threat Intelligence баг саяхан санаа зовоох хөгжлийг илрүүлсэн: Gemini зэрэг том хэлний загваруудыг ашиглан ажиллах явцдаа өөрсдийн кодыг дахин бичиж, нуун дарагдуулдаг хортой програмын багц. Энэ нь онолын судалгаа эсвэл туршилтын загвар биш - эдгээр нь аль хэдийн ашиглагдаж буй бодит аюул юм.

Тодорхойлогдсон хамгийн боловсронгуй жишээ бол PROMPTFLUX бөгөөд энэ нь зөвхөн хөгжүүлэлтийн үе шатанд хиймэл оюун ухааныг ашигладаггүй. Үүний оронд энэ нь ажиллаж байх үедээ идэвхтэй хиймэл оюун ухааны загваруудыг дуудаж, тулгарсан орчиндоо үндэслэн өөрийн зан үйлийг шууд өөрчлөх боломжтой.

Энэ хэрхэн ажилладаг вэ

Уламжлалт хортой програм нь тогтмол кодын баазтай ажилладаг. Аюулгүй байдлын хэрэгслүүд үүнийг гарын үсэг илрүүлэх, зан үйлийн шинжилгээ эсвэл загвар таних замаар тодорхойлж чаддаг. Гэвч хиймэл оюун ухаантай хортой програм нь тоглоомын дүрмийг бүрэн өөрчилдөг:

• Бодит цагийн код үүсгэлт: Хортой програм нь одоогийн зорилгодоо үндэслэн шинэ кодын хэсгүүдийг үүсгэхийн тулд хиймэл оюун ухааны загварт асуулт тавьдаг
• Динамик нуун дарагдуулалт: Ажиллалт бүр өөр өөр кодын хувилбаруудыг үүсгэж болох тул гарын үсэгт суурилсан илрүүлэлт бараг боломжгүй болдог
• Орчны дасан зохицох чадвар: Хортой програм нь орчноо шинжилж, илрүүлэлтээс зайлсхийхийн тулд зан үйлээ тохируулдаг
• Полиморф хувьсал: Биологийн вирус шиг энэ нь үндсэн функцээ хадгалахын зэрэгцээ давталт бүрт мутацид ордог

Бодит дэлхийн халдлагын векторууд

Google-ийн судалгаа нь үйлдвэрлэлийн орчинд хиймэл оюун ухаантай хортой програмын хэд хэдэн идэвхтэй хэрэглээг баримтжуулсан:

Код оруулах халдлага

Хортой програм нь хиймэл оюун ухааныг ашиглан хууль ёсны програмын кодтой үл ялгагдах контекст мэдрэмтгий кодын оруулалтыг үүсгэдэг бөгөөд энэ нь илрүүлэлтийг илүү хүндрүүлдэг.

API түлхүүр хулгайлах

Хиймэл оюун ухааны загварууд нь хортой програмд API түлхүүр болон нэвтрэх мэдээллийг кодын контекст болон өгөгдлийн бүтцийг ойлгох замаар уламжлалт загвар таних аргаас илүү сайн тодорхойлох, гаргаж авах, гадагш гаргахад тусалдаг.

Аюулгүй байдлын хэрэгслээс зайлсхийх

Магадгүй хамгийн санаа зовоох зүйл бол эдгээр хэрэгслүүд нь аюулгүй байдлын арга хэмжээг тойрч гарахад тусгайлан зориулагдсан кодыг үүсгэхийн тулд хиймэл оюун ухааныг идэвхтэй ашигладаг. Хортой програм нь амжилтгүй оролдлогоос "суралцаж", бодит цагт хандлагаа тохируулж чаддаг.

Кибер аюулгүй байдалд үзүүлэх нөлөө

Энэхүү хөгжил нь Google-ийн "хиймэл оюун ухааны хэрэглээний шинэ үе шат" гэж нэрлэдэг зүйлийг төлөөлдөг. Үр дагавар нь гүнзгий юм:

Уламжлалт хамгаалалт хангалтгүй

Гарын үсэг илрүүлэх болон статик шинжилгээнд суурилсан аюулгүй байдлын хэрэгслүүд нь аюул заналыг байнга дахин бичдэг үед хамаагүй бага үр дүнтэй болдог. Хортой програмын жишээ бүр өвөрмөц байж болох тул уламжлалт хар жагсаалт болон загвар таних нь хуучирсан болдог.

Дүгнэлт

PROMPTFLUX зэрэг хиймэл оюун ухаантай хортой програмын гарч ирэлт нь кибер аюулгүй байдлын ландшафтын үндсэн өөрчлөлтийг тэмдэглэж байна. Бид статик аюулын эринээс бодит цагт өөрсдийгөө дахин бичиж чадах динамик, хөгжиж буй дайснуудын эрин рүү шилжиж байна.

Энэ нь алс холын ирээдүйн хувилбар биш - энэ нь одоо болж байна. Google-ийн судалгаа эдгээр хэрэгслүүд аль хэдийн идэвхтэй ашиглагдаж, бодит систем болон бодит өгөгдлийг онилж байгааг баталж байна.

Асуулт нь хиймэл оюун ухаан кибер аюулгүй байдлын аюулыг өөрчлөх эсэх биш, харин байгууллагууд энэ шинэ бодит байдалд хамгаалалтаа хэр хурдан дасан зохицуулах вэ гэдэг юм. Үүнийг онолын санаа зовоох асуудал гэж үзэхээс илүү яаралтай аюул гэж үзэхгүй хүмүүс өөрсдийн эрсдэлээр үүнийг хийдэг.

Хортой програм суралцаж эхэлсэн. Асуулт нь: бид урагшлахын тулд хангалттай хурдан суралцаж байна уу?

---

Oyu Intelligence-д бид үйлчлүүлэгчиддээ гарч ирж буй технологийн сорилтуудыг ойлгож, бэлтгэхэд нь туслахын тулд хиймэл оюун ухааны хөгжлийн тэргүүн эгнээнд байдаг. Хиймэл оюун ухааны системүүд дэх бидний мэргэжил нь дэвшилтэт хиймэл оюун ухааны чадавхийн санал болгож буй боломж болон эрсдэлийн аль алинд нь ойлголт өгөх боломжийг бидэнд олгодог.