Adevăratul pericol al ChatGPT

Primul dintre pericolele foarte reale ale utilizării crescânde a tehnologiei chatbot : dacă ați considerat drept enormă cantitatea de date pe care a fost capabilă să o adune o companie precum Google, așteptați până veți vedea ce vor face OpenAI, Microsoft și Google cu conversațiile cu care oamenii alimentează în prezent mașinile de colectare a datelor cunoscute sub numele de chatboți.

Vă întrebați ce vor face cu aceste date, care vor fi legate de numărul de telefon, adresa IP, amprenta browser-ului, istoricul căutărilor, cookie-urile, postările de pe rețelele de socializare și alte un milion de date ? Posibilitățile sunt nelimitate, dar crearea de deepfake-uri perfect convingătoare ale oricărui individ ar fi un bun punct de plecare.

După cum distinșii mei cititori vor fi știind deja, fără îndoială, nu putem avea încredere că avatarurile digitale cu care interacționăm în forumurile online și pe rețelele de socializare sunt oameni reali și nu avataruri fictive care au în spate niște guerilla cibernetici care au militarizat internetul cu mult timp în urmă. Dar cel puțin putem fi în mod rezonabil siguri că acel apel Zoom pe care tocmai l-am avut cu mătușa Florence din Wyoming a fost o conversație reală cu o ființă umană în carne și oase.

Ei bine, în viitorul foarte apropiat, nici un podcast, nici un vodcast, nici un video de pe TikTok, nici un mesaj, nici un apel Zoom, nici o comunicare online de orice fel nu va fi liberă de suspiciunea că nu interacționați de fapt cu o ființă umană reală.

Nu, nu am (și acum probabil că nu o voi face niciodată) creat nici o versiune deepfake a mea folosind ChatGPT sau orice altă tehnologie de inteligență artificială, dar cineva probabil că o va face la un moment dat. La naiba, au existat deja nu una, nu două, nu trei, ci patru persoane care m-au căutat pe ChatGPT sau au cerut programului să scrie ceva în stilul meu, și, în acest al doilea caz – o instrucțiune de a scrie o opinie despre tehnologia geoingineriei în stilul lui James Corbett – rezultatul a fost unul decent:

În ceea ce-l privește pe James Corbett, este un jurnalist și cercetător independent care și-a exprimat scepticismul cu privire la beneficiile potențiale ale geoingineriei și care a criticat lipsa de transparență și responsabilitate a acestor tehnologii. Pe baza opiniilor sale, este probabil ca el să împărtășească un sentiment similar cu al meu și să creadă că guvernul trebuie să ia mai multe măsuri pentru a informa și proteja publicul în ceea ce privește geoingineria.

Toate bune, cel puțin până la partea cu „guvernul trebuie să ia mai multe măsuri”.

Da, totul va începe cu deepfake-uri de celebrități, dar în curând vor apărea noi grupări de cyber-teroriști care vor face deepfake-uri cu politicieni pentru a destabiliza țările, sau deepfake-uri cu directori de corporații pentru a face ravagii pe piețele economice, sau deepfake-uri cu oficialii de bănci pentru a obține accesul la bazele de date bancare, sau deepfake-uri cu mătușa Florence pentru a vă frauda de 100 dolari. Și, așa cum au intuit deja unii dintre cititorii Corbett Report mai perceptivi, acest lucru va conduce la „soluția” prefabricată ideală: o identitate digitală pentru a accesa internetul! În sfârșit, putem dovedi online cine suntem cu adevărat! (De fapt, veți fi obligat în orice moment să dovediți cine sunteți online pentru a putea rămâne online, dar asta e informația pe care nu ar trebui să o citiți printre rânduri.)

Dar poate chiar mai rău decât să afli că un chatbot și o tehnologie deepfake au generat un episod complet fals din podcastul tău preferat este un alt scenariu, cu mult mai îngrijorător. Acești „chatboți” – care vor fi în curând lansați ca „asistenți digitali” și vor deveni de-acum înainte la fel de omniprezenți ca Siri și Alexa – vor fi capabili să vă determine aprecierile, interesele, punctele slabe și să înceapă să genereze conținut complet nou (podcasturi noi cu oameni care nici măcar nu există) spunând lucruri pe care le veți găsi la nesfârșit distractive. Veți trăi în curând într-o bulă cu filtre atât de unică încât aceasta va exista în întregime pentru a vă captiva … iar oamenii care cred că pot rezista unui astfel de conținut vor fi tocmai oamenii cel mai ușor acaparați de acesta.

De fapt, așa cum Huxley se temea de minunata lume nouă a divertismentului și diversiunilor mai mult decât se temea de tirania piciorului în gură de tip 1984, tot așa s-ar putea ca și spaima noastră de războiul apocaliptic împotriva roboților să fie deplasată. Poate că nu ar trebui să ne temem de confruntarea în stil Terminator dintre Skynet și Rezistență atât de mult încât ar trebui să ne temem de lumea lui Spike Jonez din filmul Her, o lume în care „sistemele de operare” devin mai reale pentru noi decât oamenii, și a avea un program de calculator drept partener romantic va deveni un lucru perfect obișnuit.

Știu, știu, dragă cititorule. Aceste lucruri încep să sune atât de departe de grijile noastre curente încât v-ați pierdut interesul. Mi-aș dori să fiu la fel de convins că nu suntem pe cale să trecem un prag, dar mă tem că alunecăm cu capul înainte și râzând fără griji în metaversul hiperrealului.

Haideți să facem o înțelegere. Ce-ar fi să revizuim acest articol în 2030? Dacă nu se întâmplă nimic apropiat de scenariul pe care l-am prezentat aici, îmi voi mânca fericit pălăria, voi recunoaște că m-am înșelat complet și total, voi recunoaște că într-adevăr nu este nimic de care să vă faceți griji în acest scenariu și vă voi reaminti eu însumi să priviți orice altceva voi spune vreodată cu scepticism. Ce ziceți?

Link: https://corbettreport.substack.com/p/the-real-dangers-of-the-chatbot-takeover