Å spille med ild: Openai innrømmer at den fremtidige AI kan bidra til å bygge nye biovåper.
Stag dere, folkens – hjernen bak chatgpt har nettopp gitt en tilståelse som er en del Teknisk gjennombrudddel Science Fiction Nightmare. Openai, AI -kraftsenteret støttet av Microsoft, har innrømmet at de kommende kunstige intelligensmodellene kan Hjelp med å lage nye BioWeapons. Ja, du leste det riktig. Robotene blir smarte nok til å koke opp morderfeil for å utrydde mennesker.
I et blogginnlegg som er så tilfeldig at det like gjerne har kommet med popcorn, avslørte Openai at det kjører foran med AI som kunne revolusjonere Biomedisinsk forskning – Og også potensielt den neste pandemi.
«Vi føler en plikt til å gå i strammen mellom å muliggjøre vitenskapelig fremgang mens vi opprettholder barrieren for skadelig informasjon,» skrev selskapet.
Oversettelse? De oppfinner digitale Frankensteins og håper laboratoriene holder.
AI: Fra å hjelpe leger til å hjelpe dommedag?
Openais sikkerhetssjef, Johannes Heidecke, fortalte Axios at selskapet ikke tror den nåværende teknologien kan finne opp nye virus fra bunnen av akkurat ennå -Men advarte om at neste generasjon kan hjelpe «dyktige skuespillere» med å gjenskape kjente bio-trusler med skremmende letthet.
«Vi er ennå ikke i verden der det er som roman, helt ukjent skapelse av biothreater som ikke har eksistert før,» innrømmet Heidecke. «Vi er mer bekymret for å gjenskape ting som eksperter allerede er veldig kjent med.»
Med andre ord, AI oppfinner ikke zombievirus ennå – men det kan snart bli verdens mest nyttige laboratorieassistent for bioterrorister.
Openais dristige plan
Selskapet insisterer på at tilnærmingen handler om forebygging. «Vi tror ikke det er akseptabelt å vente og se om en bio -trusselhendelse oppstår før de bestemmer seg for et tilstrekkelig nivå av sikkerhetstiltak,» lyder blogginnlegget. Men kritikere sier at det er akkurat det som skjer – bygg nå, bekymre deg senere.
For å forhindre at robotene blir useriøse, sier Heidecke at sikkerhetssystemene deres må være nesten perfekte.
«Dette er ikke noe der 99 prosent eller til og med en av 100 000 ytelse er tilstrekkelig,» advarte han.
Høres betryggende ut … til du husker hvor ofte Tech blir glitrende.
Biodefence eller biotrap?
Openai sier at modellene kan brukes i biodefens. Men noen eksperter frykter at disse «defensive» verktøyene kan falle i gale hender – eller brukes offensivt av de rette. Tenk deg hva et statlig byrå med en grumsete merittliste kan gjøre med AI som vet hvordan man finjusterer patogener.
Og hvis historien har lært oss noe, er det at veien til helvete er brolagt med gode vitenskapelige intensjoner.
Chatbot of Doom? Hvordan en AI nesten var med på å bygge et biowapon i 2023
Som rapportert av Bloombergi slutten av 2023, gikk en tidligere FN-våpeninspektør inn i en sikker bygning i Det hvite hus tilstøtende med en liten svart boks. Nei, dette var ikke en spionfilm. Det var Washington, og det som var inni den boksen, forlot tjenestemenn lamslått.
Boksen holdt syntetisk DNA – den typen som, samlet riktig, kunne etterligne komponenter i et dødelig biowapon. Men det var ikke innholdet som rystet folk. Det var slik ingrediensene hadde blitt valgt.
Inspektøren, som samarbeidet med AI-sikkerhetsfirmaet Anthropic, hadde brukt sin chatbot, Claude, for å spille en bioterrorist. AI antydet ikke bare hvilke patogener som skal syntese, men hvordan du distribuerer dem for maksimal skade. Det ga til og med forslag til hvor du skal kjøpe DNA – og hvordan du kan unngå å bli fanget og gjøre det.
AI chatbots og bioweapon -trusselen
Teamet brukte over 150 timer på å undersøke bots svar. Funnene? Det svarte ikke bare på spørsmål – det Brainstormed. Og det, sier eksperter, er det som gjør moderne chatbots farligere enn søkemotorer. De er kreative.
«AI tilbød ideer de ikke en gang hadde tenkt å spørre,» sa Bloomberg Journalisten Riley Griffin, som brøt historien.
Den amerikanske regjeringen svarte uker senere med en utøvende ordre som krevde strammere tilsyn med AI og regjeringsfinansiert vitenskap. Kamala Harris advarte om «AI-formulerte bioweapons» som var i stand til å sette millioner i fare.
Bør AI reguleres som en biohazard?
Mens regulatorer skynder seg å ta igjen, oppfordrer forskere til forsiktighet. Over 170 forskere signerte et brev som lovet å bruke AI på en ansvarlig måte, og argumenterte for potensialet for medisinske gjennombrudd oppveier risikoen.
Likevel utløste Casagrandes funn virkelig bekymring: AI trenger ikke et laboratorium for å gjøre skade – bare en bærbar datamaskin og et nysgjerrig sinn.
«Den virkelige frykten er ikke bare AI,» sa Griffin. «Det er det som skjer når AI og syntetisk biologi kolliderer.»
Biosikkerheten blinde flekk ingen snakker om
Mindre selskaper som håndterer sensitive biologiske data var ikke en del av de regjerings orienteringene. Det, advarer eksperter, etterlater en farlig blind flekk.
Anthropic sier at det er lappet sårbarhetene. Men Black Box-øyeblikket var en vekker: vi går inn i en alder der chatbots kanskje ikke bare hjelper oss med å kurere sykdom-de kan lære oss hvordan vi kan spre den.
Ikke et dommedagsscenario ennå. Men definitivt en ny type våpenløp.
Dette er ikke bare en teoretisk risiko. Hvis modeller som GPT-5 eller utover havner i gale hender, kan vi se på en digital Pandoras boks: øyeblikkelig tilgang til trinn-for-trinn-instruksjoner for syntetisering av virus, endre DNA eller omgå laboratoriens sikkerhet.
«Disse hindringene er ikke absolutte,» innrømmer Openai. Som ærlig talt er den teknologiske ekvivalenten til å si, «Døren er låst – med mindre noen åpner den.»
Dommen: smartere teknisk, skumlere fremtid?
Openai ønsker å redde liv med vitenskap. Men det er også tappet mot en fremtid der alle med en bærbar PC og et nag kan spille Gud. Er denne innovasjonen-eller en sakte katastrofe som pågår?
Foreløpig sitter vi igjen med ett brennende spørsmål: Hvis AI -en din kan hjelpe noen med å lage et biowapon, bør du virkelig bygge det i det hele tatt?
Få mer Teknolognyheter.
Flere Oss nyheter.
