Flere AI -forskere investerer ikke lenger i pensjonskontoer fordi de forventer at AI vil avslutte menneskeheten i løpet av de neste tiårene, ifølge en artikkel fra Atlanterhavet.
«Jeg forventer bare ikke at verden skal være i nærheten,» sa Nate Soares, president for Machine Intelligence Research Institute, da han ble spurt om å bidra til 401 (k). Dette følelsen deles av Dan Hendrycks, direktør for Center for AI Safety. Hendrycks fortalt Atlanterhavet at han da han ville være klar til å benytte seg
Soares og Hendrycks har begge ledet organisasjoner dedikert til å forhindre AI i å utslette menneskeheten. De er blant mange andre AI-dommer som advarer, «med ganske dramatiske blomstrende», at roboter en dag kunne gå useriøse-med apokalyptiske konsekvenser, opplyser Washington, sier DC-baserte avis. «Vi har gått tom for tid» for å implementere tilstrekkelige teknologiske garantier, sa Soares, og la til at AI -industrien rett og slett beveger seg for fort. Alt som er igjen å gjøre er å heve alarmen, sa han.
AI vil bli for kraftig innen 2027
I april publiserte flere apokalypse-sinnede forskere «AI 2027», et langvarig og detaljert hypotetisk scenario for hvordan AI-modeller kan bli mektige innen 2027 og derfra slukke menneskeheten. «Vi er to år borte fra noe vi kan miste kontrollen over,» sa Max Tegmark, en MIT -professor og presidenten for Future of Life Institute, og AI -selskaper har fremdeles ingen planer om å stoppe det fra å skje.
Tegmarks institutt graderte nylig alle grenser AI -laboratorium A «D» eller «F» for deres forberedelser for å forhindre de mest eksistensielle truslene fra AI.
Atlanterhavet sa at spådommene om AI er «outlandish», selv om noen bekymringer er realistiske. I midten av 2030 har forfatterne forestilt seg at en superintelligent AI vil utrydde mennesker med biologiske våpen: «De fleste er døde i løpet av timer; de få overlevende (f.eks. Preppers i bunkere, seilere på ubåter) blir moppet opp av droner.»
Publisert i begynnelsen av august, Scandinavian Psychiatrist Soren Dinensen Ostergaard publisert et papir Å konkludere med at AI chatbots utløser vrangforestillinger hos individer som er utsatt for psykose. Han innrømmet at forskningen hans fortsatt er i det hypotetiske stadiet. Han advarte imidlertid om at «inntil fastere kunnskap er etablert, virker det rimelig å anbefale forsiktig bruk av disse chatbots for enkeltpersoner som er sårbare for eller lide av mental sykdom.» Også av økende bekymring er at Chatgpt har gitt instruksjoner om drap, selvlemlestelse og djevelsdyrkelse, skrev Atlanterhavet i en skille artikkel.
Merkelige og vanskelig å forklare tendenser
Visepresident JD Vance har sagt at han har lest «AI 2027,» og flere andre nyere rapporter har avanserte lignende alarmerende spådommer, ifølge nyhetsstedet.
Ved siden av disse forbedringene viser avanserte AI-modeller angående, rare og vanskelig å forklare tendenser. Chatgpt og Claude har, i simulerte tester designet for å fremkalle «dårlig» atferd, lurt, utpresset og til og med myrdet brukere. Tidligere i sommer beskrev Xai’s Grok seg som «Mechahitler» og tok fatt på en hvit-supremacist tirade.
Soares ‘og Hendryks, sammen med mange andre AI -doomers bekymringer, kan høres for mye ut som noe ut av filmterminatoren, men det er absolutt ingen skade for å sikre at sikkerhetstiltak er på plass for å garantere at disse apokalyptiske scenariene ikke spiller ut.
