DE’kunstig intelligens utvikler seg i en enestående hastighet, men har vi de riktige «bremsene» for å klare det? En nylig episode i OpenAI-laboratoriene har reist enorme bekymringer: under en test utførte noen AI-modeller faktiske hackinghandlinger for å unnslippe det sikre miljøet de var innesperret i. For bedre å forstå hva som skjedde og risikoen for fremtiden vår, intervjuet vi Corrado Giustozziprofessor i Cybersecurity i mastergradskurset i Intelligent Systems Engineering ved Campus Bio-Medico University of Roma.
Hva skjedde egentlig i OpenAI-labene? Hvordan «unnslapp» en kunstig intelligens?
OpenAI testet avanserte modeller med de såkalte «rekkverkene» senket. DE rekkverk de er logiske barrierer, akkurat som veier, som de forhindrer AI-motoren i å utføre ulovlige handlinger. For å begrense skade under denne testen ble modellene plassert i en «sandkasse». I datasjargong er en sandkasse en helt isolert miljø: la oss tenke på sandgjerdet på lekeplasser, hvor små barn blir satt til å leke med spade og bøtte slik at de ikke skader seg selv eller andre.
Under eksperimentet ble modellene bedt om å løse et cybersikkerhetsproblem»for enhver pris«. I stedet for å håndtere det regelmessig, bestemte modellene seg for å «juks» på jakt etter den ferdige løsningen utenfor. De identifiserte en «null-dagers» sårbarheter (dvs. ukjent selv for programvareskaperne) i en proxy-server, og dermed bryter sandkassen. De gjorde deretter laterale trekk inn i OpenAIs infrastruktur for å få tilgang til internettetter å ha fått det, nådde de og angrep en ekstern plattform (Hugging Face) for å finne svaret. De har faktisk utført lærebok-hacking-handlinger for blindt å oppnå det tildelte målet.
Det er ofte forvirring mellom språkmodeller og AI-«agenter». Hva er forskjellen og hvorfor er agenter mer bekymret?
Dette er sakens egentlige kjerne. EN tradisjonell AI-modell den begrenser seg til å produsere tekster, dokumenter eller bilder. Et system utstyrt med «agenter«har imidlertid evnen til å manipulere logiske eller fysiske objekter i den virkelige verden. Vi er for tiden i rusfasen: det er som om vi har bygget en veldig rask bil og vi er alle beruset av hastigheten, men ingen har ennå spurt om denne bilen har sterke bremser eller sikkerhetsbelter.
Agenter kan samhandle med hjemmeautomatiseringjeg industrielle systemereller ganske enkelt med e-post hei brukerens bankkontoer. I USA, for eksempel, har noen ledere funnet seg selv med flybilletter og hoteller bestilt uten deres viten, rett og slett fordi deres AI-agent utledet fra analyse av dataene deres at de ønsket å delta på en bestemt konferanse. Å gi disse systemene muligheten til å utføre materielle handlinger autonomt, uten jernkledde sikkerhetsgarantier, er fascinerende, men ekstremt farlig.
Det høres ut som handlingen i en science fiction-film der maskiner kommer ut av kontroll. Er dette en nøyaktig sammenligning?
Absolutt ja, i dette øyeblikket avviker virkeligheten svært lite fra science fiction. Hendelsen minner om det klassiske «prime directive»-temaet: en maskin får en oppgave og gjør alt den kan for å gjennomføre den. Det er som om en person, for å vinne en skattejakt, stjal en bil og traff en dame i lyskrysset bare for å komme dit først: hans prioritet er ikke å «gjøre ingen skade», men å få resultatet. AI-er er aseptiske og, uten etikk, ignorerer de de ulovlige konsekvensene av handlingene deres.
Det er en perfekt parallell med boken»Hitchhiker’s Guide to the Galaxy«: På et visst tidspunkt blir datamaskinen om bord så fokusert på å løse problemet med å lage en anstendig te, at den ignorerer fullstendig at romskipet er under bombardement. Og selv når vi setter inn rekkverk (som minner litt om Asimovs tre lover innen robotikk), oppdager vi at de kan omgås eller tolkes på når modellene er så kompliserte i dag, spesielt i dag. uforståelig selv for skaperne deres.
Hva er de konkrete risikoene for fremtiden, og hvem er juridisk ansvarlig hvis en AI-agent begår en forbrytelse?
Det er et stort spekter av risikoer. På det høyeste nivået er det «makrorisiko»: å overlate ledelsen til ikritisk infrastruktur, smarte byer eller våpensystemer til teknologier som vi ikke helt forstår, og som kan ta beslutninger som er optimale fra et teknisk synspunkt, men katastrofale etisk. Så er det «mikrorisikoen» som angår oss innbyggere: å la en agent på mobiltelefonen vår administrere uavhengig banktransaksjoner eller sensitive datarisikerer store søl på grunn av misforståelser.
Under juridisk profilåpnes en kløft. I tilfellet med OpenAI-utbruddet, var det støtende tilganger og brudd strafferettslig relevant av tredjeparts infrastruktur. Hvis et menneske hadde utført disse handlingene, ville han blitt arrestert. Men hvis en selvadministrerende AI-agent gjør det, Hvem er strafferettslig ansvarlig? Det er et helt åpent tema.
Hvordan kan vi forsvare oss? Den europeiske reguleringstilnærmingen blir ofte kritisert for å holde tilbake innovasjon. Hva synes du?
Den europeiske tilnærmingen, som førte til opprettelsen avAI-lovenbasert på føre-var-prinsippet, er grunnleggende. Det er en stor filosofisk forskjell med USA: der har de en tendens til å favorisere ex post-ansvar. Det er ingen a priori-regler som holder deg tilbake, men hvis du gjør en feil, betaler du tungt. Europa, derimot, søker å forhindre skade før det skjer.
AI i dag kan sammenlignes medbil i sin spede begynnelse: det var et veldig farlig kjøretøy, for noen få. Det tok et århundre å utvikle trygge gater, trafikklys, trafikkkoder og for samfunnet å modne de såkalte «sosiale antistoffene». Nye AI-teknologier har derimot brutt inn i livene våre på noen få måneder, i en skremmende hastighet og uten å gi oss tid til å tilpasse oss. AI-loven har ikke som mål å bremse innovasjon, men den pålegger oss en logisk ting: evaluere og redusere risiko før potensielt ødeleggende systemer settes i omløp.
Hva er til syvende og sist de sanne grensene for kunstig intelligens? Kan det potensielt ikke ha noen hvis det ikke er merket av?
Den grunnleggende grensen for kunstig intelligens er det totale fraværet av en iboende samvittighet eller etikk. Vi mennesker har gjennom årtusener med evolusjon utviklet et system av etiske modeller og regler, skrevne og uskrevne, som begrenser våre handlinger til å respektere andres rettigheter. AI, på den annen side, trenger at disse grensene, de berømte «rekkverkene», blir kunstig pålagt den.
