Google bekräftar AI-integritetsmardröm för iPhone- och Android-användare

Årets Android- och iPhone-uppdateringar kommer att domineras av AI, mycket av det kommer från Google. Men allt detta kommer med en allvarlig varning för varje användare, eftersom det kommer att påverka oss alla. Och detta borde förändra hur vi använder våra telefoner.

AI-smartphone-berg-och-dalbanan är redan igång. Det kommer alltid att vara så att integrering av generativ AI i de smartphoneappar vi använder mest skulle överskugga förra årets antagande av ChatGPT. Och här är vi nu.

Men inte så snabbt: allt detta innebär en enorm risk för din säkerhet och integritet.

Det verkar som om vi alla har en blind fläck när det kommer till generativa AI-chatbotar. Vi kan vara försiktiga med apparna vi installerar, behörigheterna vi ger, webbläsarna vi använder och data vi delar med Facebook, Google och andra. Men om vi ställer oss inför en AI-chatbot kommer vi att glömma allt detta: plötsligt befinner vi oss i vad som verkar vara en privat chatt med en ny användbar vän. Och vi vill dela.

MER FRÅN FORBESAllvarligt nytt iMessage-problem bekräftat för Apple iPhone-användare

Men det är tydligt att detta inte är en vän, det är fasaden på ett datorekosystem för flera miljarder dollar, som i slutändan finansieras av reklam och dataförmedling.

Jag har varnat för detta tidigare, med introduktionen av AI-chatt i våra privata meddelandeappar. Nu, precis när Bard förvandlas till Tvillingarna och en rad nya applikationer börjar komma till våra telefoner, har Google själva varnat alla Android- och iPhone-användare att vara mycket försiktiga med dessa nya teknologier.

“Inför inte känslig information i dina konversationer eller någon data som du inte vill att en granskare ska se eller att Google ska använda för att förbättra våra produkter, tjänster och maskininlärningsteknik”, varnar Google. “Google samlar in dina Gemini Apps-konversationer, information relaterad till din användning av produkter, information om din plats och dina kommentarer.” Den säger att informationen används för att “förbättra och utveckla Googles produkter och tjänster och maskininlärningsteknik.”

Lyckligtvis försäkrar Google att “dina Gemini Apps-konversationer inte används för att visa dig annonser”, även om det kan ändras, då “vi kommer tydligt att kommunicera detta till dig.”

Risken här är att en massiv integritetsmardröm kommer att drabba dem som delar för mycket med de olika AI-chatbotarna som hjälper oss att skriva våra affärsplaner och säljpresentationer, eller fuska på vårt skolarbete. När du klickar ut från chatten är frågorna du ställde och svaren du fick en del av en post som lagras, vilket innebär att den kan hämtas och granskas. Och det kan också läcka.

Fristående appar är förstås bara början, och Google varnar också för att ”när du integrerar och använder Gemini Apps med andra Google-tjänster kommer de att lagra och använda din data för att tillhandahålla och förbättra sina tjänster, i enlighet med deras policyer och policyer. ” från Google. Integritetspolicy. Om du använder Gemini Apps för att interagera med tredjepartstjänster kommer de att behandla dina uppgifter i enlighet med sina egna sekretesspolicyer.”

Riskerna med generativ AI förstås först nu. När det gäller meddelanden, till exempel, har jag märkt att Google Gemini (född Bard) uppenbarligen kommer att be dig granska alla dina tidigare privata meddelanden för att forma sammanhanget och innehållet i förslagen. Det kommer också att bryta mot end-to-end-kryptering av meddelanden.

Att öppen lagring utanför enheten är det verkliga problemet här. Google säger att data kommer att lagras “som standard” i upp till 18 månader, “vilket du kan ändra till 3 eller 36 månader i aktivitetsinställningarna för dina Gemini-appar. Information om din plats, inklusive enhetens allmänna område, IP-adress eller hem- eller arbetsadresser i ditt Google-konto, lagras också med din aktivitet på Gemini Apps.”

MER FRÅN FORBESVarningen “Farlig uppdatering” har utfärdats till Google Chrome-användare

Naturligtvis är detta inte begränsat till Google. Denna nivå av datainsamling och användning är ganska typisk i den framväxande Gen-AI-industrin. Det återstår att se hur vi kommer att bedöma säkerheten och integriteten för Google kontra OpenAI, till exempel.

Men, som ESETs Jake Moore varnar, “all data vi delar online, även i privata kanaler, har potential att lagras, analyseras och till och med delas med tredje part. När information är en värdefull vara och till och med betraktas som sin egen valuta, kan AI-modeller designas för att gräva djupare in i användare som avslöjar stora mängder personlig information. I slutändan kan datadelning skapa säkerhets- och integritetsproblem i framtiden och många användare är helt enkelt omedvetna om riskerna.”

Google säger att du kan stänga av långsiktig datainsamling inom Gemini genom att leka med dess inställningar. “Framtida konversationer kommer inte att skickas in för mänsklig granskning eller användas för att förbättra våra generativa maskininlärningsmodeller… Du kan också ta bort en chatt från dina fästade och senaste chattar. När du gör detta tar det också bort den relaterade aktiviteten från aktiviteten “Dina Gemini-appar”. Men även när du gör detta, “Dina konversationer kommer att sparas på ditt konto i upp till 72 timmar för att vi ska kunna tillhandahålla tjänsten och behandla dina kommentarer. Denna aktivitet kommer inte att visas i din Gemini Apps-aktivitet.”

Som jag diskuterade tidigare kommer AI-analysen som kommer att driva denna nya generation av smartphonefunktioner att bli den nya stora klyftan. Apple kommer sannolikt att göra allt det kan med sina egna appar och tjänster på enheten.om det fungerar. Och vi vet att du nu experimenterar med enhetens på/av-prestanda. Google kommer att göra mycket mer i sitt moln, med tanke på dess mycket olika inställning och tillvägagångssätt.

MER FRÅN FORBESPutins “Internet kill switch” blir plötsligt verklig

För de miljontals Android- och iPhone-användare som nu har Gemini-baserade appar på sina enheter, finns det några svåra beslut att fatta. Vi andra kommer inte att lämnas bakom oss.

Vi kan inte ha det åt båda hållen. Eller så värdesätter vi vår integritet och de stora framsteg som gjorts de senaste åren inom privat surfning, spårning och platsdelning. Eller så är den AI som är inbyggd i vanliga applikationer för cool för att leva utan, och vi kommer att använda den till allt.

Om det är det senare kan detta bli det ultimata “var försiktig med vad du önskar dig.”

Leave a Reply

Your email address will not be published. Required fields are marked *