Kompanija Anthropic, jedan od najvećih igrača u razvoju naprednih AI sistema, počela je da uvodi obaveznu provjeru identiteta za dio korisnika svog četbota Claude, što je izazvalo novu globalnu raspravu o privatnosti i digitalnoj slobodi. Ova mjera se uvodi kako bi se spriječilo zloupotrebljavanje platforme i unaprijedila bezbjednost korisnika u slučajevima sumnjive aktivnosti, a sistem podrazumijeva da korisnici mogu biti zamoljeni da dostave dokumenta poput pasoša ili lične karte, kao i da prođu dodatnu verifikaciju putem fotografije uživo.
Ovaj potez uklapa se u širi trend tehnoloških kompanija koje pokušavaju da pooštre kontrolu nad pristupom naprednim AI alatima zbog sve češćih zloupotreba i sajber prevara. Stručnjaci upozoravaju da vještačka inteligencija više nije samo alat za produktivnost, već i potencijalno moćno sredstvo za prevaru, manipulaciju i automatizovane napade, te zbog toga raste pritisak na kompanije da uvedu strože bezbjednosne i identifikacione mehanizme.
Kako funkcioniše sistem provjere identiteta
Prema podacima iz Anthropic-ovog centra za pomoć, proces verifikacije sprovodi se preko specijalizovanog partnera za digitalnu identifikaciju, a korisnici se mogu suočiti sa zahtjevom da pošalju zvanični dokument i urade selfi provjeru u realnom vremenu. Kompanija tvrdi da se ovi podaci koriste isključivo za potvrdu identiteta i da se ne koriste za obuku modela vještačke inteligencije.
Međutim, sama činjenica da se uvodi ovako detaljna provjera u AI servisima otvorila je brojna pitanja o granici između bezbjednosti i privatnosti. Kritičari upozoravaju da ovakav sistem može postati standard koji bi omogućio prikupljanje velikih količina osjetljivih biometrijskih podataka. Posebno zabrinjava činjenica da se verifikacija može aktivirati čak i u slučajevima kada sistem procijeni da postoji rizik od zloupotrebe naloga.
Privatnost korisnika u centru kontroverze
Iako kompanija naglašava da su podaci zaštićeni i da se koriste samo u svrhu verifikacije, dio stručne javnosti i korisnika izražava zabrinutost zbog potencijalnih rizika od curenja podataka. Posebno se ističe da se radi o veoma osjetljivim informacijama, uključujući biometrijske podatke i slike zvaničnih dokumenata.
Dodatnu kontroverzu izaziva i izbor eksternog partnera za obradu podataka, što znači da informacije ne ostaju isključivo unutar jedne kompanije. U teoriji, to povećava sigurnosnu površinu napada i potencijalni rizik od zloupotrebe, iako su svi učesnici u procesu ugovorom obavezani na stroge standarde zaštite podataka. Stručnjaci za sajber bezbjednost ističu da nijedan sistem obrade osjetljivih podataka nije apsolutno bez rizika.
Zašto AI platforme uvode ovakve mjere
Glavni razlog za uvođenje identifikacije korisnika jeste sve veći broj zloupotreba AI sistema u kriminalne svrhe, uključujući prevaru, krađu identiteta i pokušaje zaobilaženja bezbjednosnih filtera. Kompanije poput Anthropic-a tvrde da se ovakve mjere primjenjuju samo u specifičnim slučajevima, kada sistem detektuje potencijalno rizično ponašanje korisnika.
Pored toga, regulatorni pritisci širom svijeta zahtijevaju od tehnoloških firmi da bolje kontrolišu ko koristi napredne AI modele, što posebno važi za sisteme koji mogu da generišu kod, analiziraju podatke ili automatski izvršavaju kompleksne zadatke. U tom kontekstu, verifikacija identiteta se posmatra kao alat za balansiranje između inovacije i bezbjednosti.
Budućnost digitalnog identiteta u AI eri
Stručnjaci upozoravaju da bi ovakvi sistemi mogli postati standard u budućnosti, naročito kako AI modeli postaju sve moćniji i autonomniji. To bi značilo da će pristup naprednim digitalnim alatima sve više zavisiti od toga ko ste u fizičkom svijetu, a ne samo od naloga i lozinke. U tom slučaju, granica između digitalnog i realnog identiteta postaje sve tanja.
Istovremeno, raste i zabrinutost da bi ovakvi sistemi mogli ograničiti anonimnost na internetu i promijeniti način na koji ljudi koriste digitalne servise. Dok jedni smatraju da je to neophodan korak za bezbjedniji internet, drugi upozoravaju da se time otvara prostor za novu vrstu digitalnog nadzora. Budućnost će pokazati da li će AI identifikacija postati standard zaštite ili nova tačka spora u borbi za privatnost korisnika.
(Kurir.rs)
