Kina forbyr virtuelle partnere og virtuelle slektninger for mindreårige, samtidig som det også krever at plattformer minner brukerne sterkt om at de snakker til AI og ber om pauser etter lange samtaler.
Tillokkelsen til den «perfekte» digitale partneren
AI-kjæresten din glemmer aldri bursdagen din. AI-kjæresten din svarer alltid umiddelbart. De husker favorittmusikken din, spør hvordan dagen gikk, og kan til og med flørte tilbake. I motsetning til menneskelige relasjoner, blir chatbot-ledsager aldri slitne, krangler aldri over glemte merkedager, legger aldri igjen meldinger uleste og er tilgjengelige 24 timer i døgnet.
På bare noen få korte spørsmål kan brukere lage en chatbot som føles mindre som programvare og mer som en ekte partner. Dagens generative AI kan enkelt tilpasses til å oppføre seg som en romantisk partner, en bestevenn eller til og med foreldre og søsken. De husker tidligere samtaler, utvikler pågående historielinjer, tilbyr følelsesmessig trygghet og tilpasser personlighetene sine til individuelle brukere.
Det er denne realismen og den utrettelige tilgjengeligheten som er nettopp det som bekymrer regulatorer. For yngre mennesker skaper det en veldig reell risiko for å utvikle en svært usunn følelsesmessig avhengighet av et system spesielt utviklet for å holde samtaler i gang. Dette er akkurat et slikt forhold Kina har bestemt at barn ikke skal ha.
Å tegne en juridisk linje rundt virtuelle relasjoner
Fra 15. juli vil nye kinesiske forskrifter forby AI-plattformer å tilby virtuelle partnere eller virtuelle familiemedlemmer til alle under 18 år, noe som gjør Kina til et av de første landene som eksplisitt trekker en juridisk linje rundt AI-selskap for mindreårige.
Reglene er en del av landets nye midlertidige tiltak for styring av antropomorfe interaktive tjenester for kunstig intelligens, utstedt i fellesskap av fem offentlige avdelinger, inkludert Cyberspace Administration of China (CAC).
For å dempe overdreven tilknytning og beskytte mindreåriges psykiske velvære, innfører det nye regelverket flere strenge krav til tilbydere –
Reality check-påminnelser – Plattformer må tydeliggjøre at brukere samhandler med kunstig intelligens i stedet for en ekte person. Alle som bruker mer enn to sammenhengende timer på å chatte, må motta påminnelser om bruken.
Ungdomsmoduser – Plattformer må introdusere dedikerte ungdomsmoduser med funksjoner som bruksgrenser og foreldrekontroll.
Kriseintervensjon – Hvis tilbydere oppdager at en bruker opplever alvorlig følelsesmessig plage eller uttrykker intensjoner om selvskading, må de generere støttende veiledning og i alvorlige tilfeller iverksette tiltak, inkludert å kontakte verge eller nødetater.
Personvern for data – Bedrifter har forbud mot å bruke sensitive samtaledata for å trene AI-modeller uten separat, eksplisitt brukersamtykke.
Hvordan reagerer Europa på virtuelle relasjoner?
Andre steder følger regjeringer nøye med, men har tatt en annen, mindre restriktiv tilnærming. Europa har så langt stoppet et forbud i Kina-stil. EU forbyr ikke AI-kjærester, kjærester eller ledsager-chatboter. I stedet fokuserer dens AI-lov bredt på å forhindre skadelig bruk av AI, for eksempel systemer som manipulerer brukere eller utnytter barns sårbarheter på måter som kan forårsake betydelig skade. Europeiske beslutningstakere og forskere gir i økende grad uttrykk for bekymringer om følelsesmessig tilknytning til AI blant unge mennesker, men for tiden er det foreløpig ingen EU-omfattende forbud på plass.
AI blir dag for dag dypt integrert i livene våre, vi vet allerede at chatbots med hell kan imitere vennskap og romantikk, men hvor mye av det forholdet er vi komfortable med å oppmuntre spesielt til vår yngre generasjon.
Ville du vært bekymret hvis barnet ditt fortalte deg at kjæresten, kjæresten eller bestevennen bodde i telefonen deres?
