Domare i delstaten Washington blockerar användningen av AI-förbättrad video som bevis i en potentiell första dom i sitt slag

En domare i delstaten Washington som övervakar ett trippelmordfall förbjöd användningen av videor med förbättrad artificiell intelligens som bevis i en dom som experter säger kan vara den första i sitt slag i en amerikansk brottmålsdomstol.

Domen, som undertecknades i fredags av domaren Leroy McCullogh i King County Superior Court och först rapporterades av NBC News, beskrev tekniken som ny och sa att den förlitar sig på “ogenomskinliga metoder för att representera vad “AI:n “tror” att den borde visas.”

“Denna domstol finner att erkännandet av dessa bevis som förstärkts av Al skulle leda till en förvirring av frågorna och en förvirring av vittnesmålen från ögonvittnen, och skulle kunna leda till en tidskrävande rättegång inom en rättegång om processen som inte kan granskas av par som används av AI-modellen”, skrev domaren i domen som publicerades i protokollet på måndagen.

Domen kommer när artificiell intelligens och dess användningar (inklusive spridningen av djupförfalskningar på sociala medier och i politiska kampanjer) utvecklas snabbt, och när statliga och federala lagstiftare brottas med de potentiella farorna som tekniken utgör.

Advokater för en man som anklagats för att ha öppnat eld utanför en bar i Seattle-området 2021, dödat tre personer och skadat två, hade försökt introducera mobiltelefonvideor förstärkta med programvara för maskininlärning, visar domstolsdokument. Maskininlärning är ett särskilt område inom artificiell intelligens som de senaste åren har fått betydelse som grund för de flesta moderna AI-system.

Åklagare i fallet sa att det inte verkar finnas något juridiskt prejudikat som tillåter tekniken i en amerikansk brottmålsdomstol, enligt ett dokument som lämnades in i februari i King County Superior Court. Jonathan Hak, en före detta barrister och barrister i Kanada och expert på bildbaserad bevisning i USA och på andra håll, sa att detta var det första fallet han kände till där en brottmålsdomstol hade ingripit i frågan.

Den åtalade, Joshua Puloka, 46, har hävdat självförsvar i morden den 26 september, och hans advokater sa i en domstolsanmälan i februari att han hade försökt att lugna ner en våldsam situation när han attackerades och skottlossning utbröt.

Puloka besvarade eld och skadade oskyldiga åskådare dödligt, står det i dokumentet. Mannen som anklagades för att ha misshandlat Puloka blev också dödlig skjuten, visar en sannolik orsaksuppgift.

Den dödliga konfrontationen fångades på mobiltelefonvideo. För att förbättra videon vände sig Pulokas advokater till en man som inte tidigare hade hanterat ett brottmål men som hade erfarenhet av kreativ videoproduktion och redigering, enligt åklagarens anmälan.

Mjukvaran som den använde, utvecklad av Texas-baserade Topaz Labs, säger att dess programvara används av filmstudior och andra kreativa proffs för att “boosta” video, enligt dokumentet.

Pulokas advokater svarade inte på förfrågningar om kommentarer. I ett uttalande sa en talesman för Topaz Labs att företaget “starkt” rekommenderar att man inte använder sin AI-teknik för rättsmedicinska eller juridiska tillämpningar.

Åklagarmyndigheten sa att den förbättrade videon förutspådde bilder snarare än att spegla storleken, formen, kanterna och färgen som fångades i originalvideon. De förbättrade bilderna var “felaktiga, vilseledande och opålitliga”, står det i dokumentet.

I ett uttalande till åklagaren som ingick i anmälan sa en kriminalteknisk videoanalytiker som granskade originalet och de förbättrade inspelningarna att den förbättrade versionen innehöll visuella data som inte fanns i originalet. Enligt experten Grant Fredericks togs även data bort från den förbättrade versionen.

Varje pixel “i den AI-genererade videon är ny, vilket resulterar i en video som kan verka mer tilltalande för en lekmannaobservatörs öga, men som innehåller en illusion av klarhet och högre bildupplösning som inte exakt representerar händelserna i original. scenen”, skrev Fredericks i uttalandet.

I en separat ansökan svarade Pulokas advokater att sådana påståenden var “överdrivna och överdrivna”. En jämförelse av de två videorna visar att den förbättrade versionen är en “trogen representation av originalet”, står det i dokumentet. “Och det är det som gäller.”

I sitt uttalande sa Fredericks, som undervisade för FBI och arbetade som videoanalytiker i 30 år, att han inte var medveten om peer-reviewed publikationer som etablerar en accepterad metod för att förbättra AI-videor. FBI inkluderar inget om ämnet i sin bästa praxis för hantering av kriminalteknisk video, sa han.

George Reis, en före detta brottsplatsutredare och mångårig kriminalteknisk videoanalytiker i södra Kalifornien, sa att han var medveten om en handfull exempel på att artificiell intelligens används som ett möjligt undersökningsverktyg för att rensa upp bilder på registreringsskyltar.

Ett av företagen som har utvecklat sådan mjukvara, Amped, sa i ett inlägg i februari att artificiell intelligens inte är tillförlitlig nog att använda för att förbättra bilder i en laglig miljö. Företaget påpekade teknikens ogenomskinliga resultat och potentiellt partiska resultat.

“Det är en ny vetenskap,” sa Reis. “Det bör göras forskning om detta innan någon använder det i ett riktigt fall. Det bör peer reviewed. “Jag är inte säker på vilken nivå som kommer att vara lämplig någon gång i framtiden för att använda AI för att förtydliga ett foto eller en video, men just nu är det för tidigt.”

Leave a Reply

Your email address will not be published. Required fields are marked *