Kan AI förvandla oss till idioter? Dessa forskare fruktar det värsta

Har du någonsin reflekterat över effekten av att vara beroende av maskiner att tänka? Med den snabba teknologiska utvecklingen flyttas detta scenario från science fiction-området till möjligheternas område.

I en ny vetenskaplig artikel undersöker professorn Umberto León Domínguez vid University of Monterrey potentialen hos artificiell intelligens (AI) för att inte bara imitera mänskliga samtal utan att i grunden ersätta många aspekter av mänsklig kognition. Verket, publicerat i tidningen Neuropsykologiväcker oro över riskerna som AI-chatbots kan utgöra för högre ordnings exekutivfunktioner.

Artificiell intelligens, i enkla termer, hänvisar till maskiner programmerade att imitera mänsklig intelligens: inlärning, resonemang och problemlösning. Bland AI-modellerna sticker ChatGPT ut. Det är ett verktyg som är utformat för att förstå och generera människoliknande text baserat på den data den tar emot. Till skillnad från äldre AI-modeller som kämpade för att förstå språkets nyanser, använder ChatGPT något som kallas en transformativ modell, som gör att den kan förstå sammanhang och producera svar som kan vara förvånansvärt lika vad en människa kan ge.

Domínguez intresse för ChatGPT härrör från dess potential som en teknisk milstolpe. Han ser det som ett tecken på teknisk singularitet, ett koncept som antyder att AI-utveckling kan nå en punkt där den börjar gå vidare bortom mänsklig kontroll, och potentiellt kombinera mänsklig och maskinell intelligens.

“Som universitetslärare utformar jag mina aktiviteter som intellektuella utmaningar för att stimulera och träna kognitiva funktioner som är användbara i mina elevers dagliga liv, såsom förmågan att lösa problem och planera”, förklarade Domínguez, chef för Center for Human Cognition and Laboratory of Brain Studies och forskare i Artificiell Intelligensgruppen.

“Utseendet på ett verktyg som ChatGPT orsakade mig oro över dess eventuella användning av elever för att slutföra uppgifter, vilket förhindrade stimuleringen av dessa kognitiva funktioner. Från denna observation började jag utforska och generalisera effekten, inte bara som student utan som mänsklighet, av de katastrofala effekter som dessa teknologier kan ha på en betydande del av befolkningen genom att blockera utvecklingen av dessa kognitiva funktioner.”

“Därför undersökte jag hur ChatGPT eller andra AI-chatbotar kunde störa exekutivfunktioner av högre ordning för att förstå hur man också tränar dessa färdigheter, inklusive med användningen av ChatGPT.”

Ett av tidningens mest överraskande påståenden är att AI kan fungera som en “kognitiv protes”, ett koncept som introducerades i en studie från 2019 av Falk Lieder och kollegor. I huvudsak betyder detta att AI kan utföra kognitiva uppgifter för människors räkning, ungefär som en protes fungerar som en ersättning för en förlorad lem. Detta inkluderar inte bara enkla uppgifter som att beräkna siffror eller organisera scheman. Forskningen tyder på att AI-förmåga kan sträcka sig till mer komplexa kognitiva funktioner, såsom problemlösning och beslutsfattande, traditionellt sett som distinkt mänskliga egenskaper.

Lieder och hans kollegor lyfte specifikt fram scenarier där människors naturliga benägenhet mot kortsiktiga belöningar styr dem bort från handlingar som skulle vara mer fördelaktiga på lång sikt. Till exempel att välja att titta på tv och koppla av istället för att arbeta med ett utmanande men givande projekt. För att ta itu med detta föreslog de att använda AI för att “gamifiera” beslutsprocessen. Gamification innebär att lägga till spelliknande element, såsom poäng, nivåer och märken, till aktiviteter som inte är spel.

Genom en serie experiment gav Lieder och hans kollegor första bevis på fördelarna med detta tillvägagångssätt. De fann att AI-förbättrade beslut hjälpte människor att fatta bättre beslut snabbare, minska förhalningen och fokusera mer på viktiga uppgifter.

Men Dominguez artikel varnar för de potentiella riskerna som är förknippade med en så snäv integration av AI i våra kognitiva processer. En viktig fråga är “kognitiv överbelastning”, där människor kan bli alltför beroende av AI, vilket leder till en minskning av vår förmåga att utföra kognitiva uppgifter självständigt. Precis som muskler kan försvagas utan träning kan kognitiva färdigheter försämras om de inte används regelbundet.

Faran, som Domínguez artikel påpekar, är inte bara att bli lata tänkare. Det finns en djupare risk att vår kognitiva utveckling och problemlösningsförmåga påverkas. Med tiden kan detta leda till ett samhälle där kritiskt tänkande och kreativitet är en bristvara, eftersom människor blir vana vid att låta AI göra det tunga arbetet.

“Jag skulle vilja att folk ska vara medvetna om att de intellektuella förmågor som är nödvändiga för framgång i det moderna livet måste stimuleras från tidig ålder, särskilt under tonåren. För effektiv utveckling av dessa förmågor måste individer göra en kognitiv ansträngning, säger Domínguez till PsyPost.

“Kognitiv avlastning kan fungera som en fördelaktig mekanism eftersom det frigör kognitiv belastning som sedan kan riktas mot mer komplexa kognitioner. Men med teknologier som ChatGPT står vi för första gången i historien inför en teknik som kan tillhandahålla en komplett plan, från början till slut.”

“Därför finns det en verklig risk att individer blir självbelåtna och förbiser även de mest komplexa kognitiva uppgifterna. Precis som man inte kan skaffa sig basketfärdigheter utan att spela det, kräver utvecklingen av komplexa intellektuella färdigheter aktivt deltagande och kan inte förlita sig enbart på teknisk hjälp.”

Men utgör inte all teknik en risk för kognitiv nedladdning? Forskaren hävdar att ChatGPT:s förmåga att generera idéer, lösningar och till och med upprätthålla konversationer självständigt skiljer den åt. Traditionella verktyg, å andra sidan, kräver fortfarande mänskligt ingripande för att få resultat.

“Många människor hävdar att det har funnits andra tekniker som har möjliggjort kognitiv avlastning, såsom miniräknare, datorer och, på senare tid, Google-sökning,” förklarade Dominguez. “Men inte ens då löste dessa teknologier problemet; De hjälpte dig med en del av problemet och/eller gav dig information som du behövde för att integrera i en plan eller beslutsprocess.

“Med ChatGPT hittar vi ett verktyg som (1) är tillgängligt för alla gratis (global påverkan) och (2) kan planera och fatta beslut på deras vägnar. ChatGPT representerar en logaritmisk förstärkare av kognitiv avlastning jämfört med tidigare tillgängliga klassiska teknologier.”

Artikeln hade rubriken: “Potentiella kognitiva risker med AI-chatbots baserade på generativa transformatorer i högre ordnings verkställande funktioner.”

Leave a Reply

Your email address will not be published. Required fields are marked *