Meta AI napravila ozbiljan bezbednosni problem na Instagramu

Meta se suočava sa novim talasom kritika nakon što su bezbednosni istraživači otkrili da je njen AI asistent za korisničku podršku na Instagramu mogao da bude iskorišćen za preuzimanje tuđih naloga. Prema dostupnim informacijama, napadači su uspeli da manipulišu AI sistemom tako da promeni adresu elektronske pošte povezanu sa korisničkim nalogom, a zatim pokrene proces resetovanja lozinke. Na taj način bilo je moguće preuzeti kontrolu nad pojedinim Instagram profilima bez direktnog pristupa originalnom vlasniku naloga. Meta je u međuvremenu potvrdila da je problem otklonjen i da radi na zaštiti pogođenih korisnika. Posebnu pažnju izazvala je činjenica da među kompromitovanim profilima navodno nisu bili samo obični korisnici, već i pojedini poznati i institucionalni nalozi. Incident je otvorio ozbiljna pitanja o tome koliko kompanije mogu da se oslone na veštačku inteligenciju kada je reč o osetljivim bezbednosnim procesima kao što su oporavak naloga i upravljanje identitetom korisnika. Meta je početkom godine značajno proširila upotrebu AI podrške na svojim platformama, sa ciljem automatizacije velikog broja korisničkih zahteva. Ideja je bila da se ubrza rešavanje problema poput vraćanja pristupa nalozima, podešavanja bezbednosnih opcija i prijavljivanja zloupotreba. Međutim, ovaj slučaj pokazuje da automatizacija bez adekvatnih zaštitnih mehanizama može da stvori nove bezbednosne rizike. Incident dolazi u trenutku kada tehnološke kompanije ubrzano uvode AI sisteme u sve veći broj servisa. Iako veštačka inteligencija može da unapredi korisničko iskustvo i smanji operativne troškove, stručnjaci upozoravaju da bezbednost i dalje mora da ostane pod strogim ljudskim nadzorom. Slučaj sa Instagramom mogao bi da postane jedan od prvih velikih primera kako preveliko oslanjanje na automatizovane AI sisteme može da dovede do neočekivanih posledica. U eri veštačke inteligencije, pitanje više nije samo šta AI može da uradi, već i šta nikako ne sme da mu bude prepušteno. The post Meta AI napravila ozbiljan bezbednosni problem na Instagramu appeared first on IT Resenja.