Kay Firth-Butterfield om att ta tillvara kraften i AI på ett ansvarsfullt sätt

kAy Firth-Butterfield har arbetat i skärningspunkten mellan ansvarighet och AI i över ett decennium och är spänd på framtiden. “Jag är ingen AI-pessimist. Jag tror att om vi gör det rätt kan vi öppna många fördelaktiga dörrar, säger han. Men hon är fortfarande försiktig. Efter att läkare diagnostiserade henne med bröstcancer förra året var hon glad över att inte förlita sig för mycket på AI, även om det i allt högre grad används för att utvärdera mammografi och MRI, och till och med för att planera behandling. Medan Firth-Butterfield, som nu är botad, oroade sig mindre om huruvida en maskin läste hennes mammografi, noterade hon att en övertro på nuvarande AI-modeller kan vara problematisk eftersom de ibland presenterar felaktig information. Hans kirurger höll med, säger han.

Firth-Butterfield, en före detta domare och professor, har blivit en av världens ledande experter på ansvarsfull AI, och formar ansträngningarna för att säkerställa att dessa system förblir ansvarsfulla och transparenta. I april förra året avslutade hon en fem och ett halvt år lång period som chef för AI och maskininlärning vid World Economic Forum, där hon utvecklade ramverk och guider för företag, länder och andra organisationer för att driva utvecklingen och ansvarsfull användning av AI. . . Hans arbete med att ge råd till Storbritannien och Brasilien om att skapa sådana artificiella intelligenssystem blev lag. “Om du är en regering och du använder artificiell intelligens med dina medborgare, då måste du kunna förklara för dem hur den används”, säger han. 2016 var Firth-Butterfield med och grundade Responsible AI Institute, som tillhandahåller verktyg för organisationer att bygga säkra och pålitliga AI-system, och fungerar i ett råd som ger råd till US Government Accountability Office i säkerhetsfrågor. AI relaterat till vetenskap och teknik, och i en rådgivande styrelse för UNESCO International AI Research Centre.

Han driver också för närvarande Good Tech Advisory, där han arbetar med företag, regeringar, icke-statliga organisationer och media för att implementera AI på ett ansvarsfullt sätt. Det innebär att hjälpa till att upprätta riktlinjer för användningen av AI-baserad teknik för att minimera potentiella skador, maximera fördelarna och säkerställa laglig efterlevnad.

Som VD för Good Tech Advisory har Firth-Butterfield hjälpt amerikanska sjukhus att utforska den potentiella användningen av AI, inklusive för att läsa medicinska bilder och fastställa diagnoser. Många har inte tydliga riktlinjer för hur personal kan använda program som ChatGPT, även om Firth-Butterfield påpekar att dessa verktyg ofta kan ge felaktig information. “De här företagen kämpar med några riktigt seriösa alternativ för ansvarsfull AI”, säger han. Läkare som använder AI för att effektivt skriva anteckningar och hantera administrativa uppgifter kan lägga mer tid på patientvård. Men att förlita sig på AI för att komma fram till en diagnos i högtryckssituationer kan vara farligt. Och om en patient förvärras eller dör blir frågan om vem som är ansvarig en fråga.

När AI inte används på ett ansvarsfullt sätt kan människor skadas, och de är oproportionerligt mycket kvinnor och färgade, konstaterar Firth-Butterfield. Partiska algoritmer kan förhindra att en arbetare anställs, orättvist avslå bolåneansökningar eller fatta felaktiga beslut om säkerhetshot baserat på ansiktsigenkänning, till exempel.

Kärnan i Firth-Butterfields förespråkande är att förstå hur AI påverkar de mest utsatta medlemmarna i samhället. På WEF arbetade han med UNICEF för att undersöka användningen av AI med barn och organiserade ett Smart Toy Award som uppmanade till noggrant genomförande. “Vi låter våra barn leka med AI-aktiverade leksaker, men vi förstår inte vad våra barn lär sig … eller vart deras data tar vägen”, säger han.

Att förbjuda användningen av AI i leksaker eller klassrum som ett sätt att skydda barn från dess potentiella risker är inte svaret, säger Firth-Butterfield. “Vi behöver barn att använda AI i utbildningen eftersom de kommer att använda det i sitt arbete. Så vi måste hitta ett ansvarsfullt sätt att tillåta den interaktionen mellan maskinen och människan, säger han. Men lärarna måste behålla ansvaret. ”Vi kan inte bara utbilda AI; Vi måste hålla människor informerade, säger han. Lärare kan lita på AI för back-end-administration, vilket frigör tid för att fokusera mer på att hjälpa sina elever.

Att vara mycket uppmärksam på hur system byggs är avgörande, men Firth-Butterfield är också oroad över vem som kan delta. Medan mer än 100 miljoner människor använder ChatGPT, saknar fortfarande nästan 3 miljarder människor tillgång till internet. “Vi ökar den digitala klyftan i en enorm takt, inte bara mellan den globala norden och den globala södern, utan även inom länder”, säger han. Även om AI har potential att revolutionera undervisningen i skolor och behandlingen av medicinska patienter, kanske stora delar av världen inte känner av dess effekter. “Vi brukar sitta i våra elfenbenstorn och prata om hur AI kommer att göra allt briljant och vi kommer inte ihåg att mycket av världen inte har varit en del av internetrevolutionen”, säger han.

Vår framtid står på spel i dessa beslut om hur människor använder och är beroende av AI, säger han: “Det handlar om huruvida vi som människor bygger det samhälle vi vill ha.”

Den här profilen publiceras som en del av TIMEs initiativ TIME100 Impact Awards, som uppmärksammar ledare runt om i världen som driver förändring i sina samhällen och branscher. Nästa TIME100 Impact Awards-ceremoni äger rum den 11 februari i Dubai.

Leave a Reply

Your email address will not be published. Required fields are marked *