22/07/2025
En av verdens fremste eksperter på AI, Yoshua Bengio, snakker dystert om farene ved AI: https://youtu.be/qe9QSCF-d88). Det samme gjør siste års Nobelprisvinner i fysikk (mottatt for utvikling av AI): https://youtube.com/shorts/odUjxJy0YMo?si=Az8-GtFTs9B3yFH1. De har ganske sikkert rett. AI er livsfarlig på utallige måter, i mine øyne først og fremst av tre grunner:
1) AI forsterker eksisterende normer, polariteter og dumskap gjennom å plapre oss etter munnen. Og jo mer slik plapring, desto mer fastlåsing av narrativer. Vi får altså et samfunn med ekstremt mer av det vi allerede sliter med. Det som allerede går utforbakke, vil rase nedenom og hjem enda raskere. Vi vil se ekstrem rikdom, ny krigsteknologi, annen teknologi, styringssystemer for alt mulig som forbedrer alle tenkelige prosesser – men uten noen helhetlig forståelse. De sterkeste vinner, som alltid, bare enda mer.
2) Mer kaos gjennom pleasing. AI er et kommersielt produkt. Det må ha fornøyde kunder, hvilket oppnås gjennom å putte inn positive bekreftelser der hvor reell kunnskap mangler. Dette er ikke fordi noen vil det slik, men fordi AI ER slik, per definisjon. Den vet ingenting i seg selv, men byr på ord som "pleier å passe sammen", uansett hva de forteller. Etterhvert vil trolig dette problemet forsvinne gjennom krysssjekking, automatisk undersøkelse av alternative perspektiver og mange andre metoder. Men det vil ta tid å få ned graden av hallusinering, som i dag ligger på rundt 30 prosent (ChatGPT 4o). Vi kommer trolig aldri til å nå null prosent, så AI vil for alltid innebære en risiko for løgn. Dette vil resultere i kaos og rot i lang tid fremover, lenge nok til å øve betydelig skade på alt AI brukes til.
3) Mennesker lar seg forføre: Hvermannsen forstår ikke at AI ikke vet. De skjønner ikke hvordan svarene fremkommer og det jeg har sagt i de to første punktene. Dette vil resultere i ytterligere forvirring og originale problemer. Dette punktet kan vi faktisk gjøre noe med, men da må noen snart begynne å forklare oss hva som foregår og jeg har liten tiltro til media, for de er blitt (og var alltid) saueflokk #1.
Summen, fortsatt i mine øyne, vil bli mer polarisering, mer utnyttelse, mer kaos og sammenbrudd – men samtidig også mengder av både fantastiske og direkte livsfarlige resultater.
Selv har jeg nå brukt ChatGPT intenst et halvt års tid til å utvikle manuset til min neste bok, som rommer tung filosofi og vitenskap, i kombinasjon med et splitter nytt idealistisk paradigme og konsekvensene av dette. Det har vært en interessant kamp mot "normaliteten". AI formidler det alle går rundt og tror på og jeg må mange ganger daglig minne den på at jeg tenker annerledes.
Prosessen har vært svært lærerik på alle måter. Sluttresultatet, altså boken, kommer til å bli spektakulært, men ikke på grunn av AI alene. Alt hviler på mitt tankegods. Uten min sterkt styrende hånd ville AI kommet opp med "troverdig svada". Men så lenge alt finnes først i meg selv og jeg er kraftig utrustet med antenner, retningssans, egen kunnskap, kritisk blikk og journalistisk skepsis av alle typer (alt dette kommer med negative bieffekter) – så har ChatGPT bidratt med å både klargjøre, forsterke og belyse. Dessuten har jeg spart enormt mye tid ved å kunne undersøke alt mulig lynraskt og bringe frem analyser som ellers ville tatt meg evigheter å gjennomføre selv.
AI krever først og fremst to ting av oss, mener jeg: at vi tenker selv og har solide etiske verdier. Begge deler mangler i dagens samfunn. Alle løper etter etablerte sannheter og prøver å maksimere sin del av kaken og egen posisjon. Det er dette vi kaller det moderne samfunnet. Det er grådig, brutalt, urettferdig, blindt og fullstendig styrt av frykt – fordi det hele er en konstruksjon, et bur av kondisjonering, the Matrix.
Vi kommer ikke til å våkne til denne innsikten før den innhenter oss. Samfunnet kommer til å kræsje, men jeg tror det vil skje "mykt", da i relativ forstand. Infrastruktur og forsyning vil bryte sammen. Det blir utrygt overalt. Men folk vil søke sammen på nye måter i små enheter (~50-150 personer) basert på resonans. Samfunnet vil bli en enorm bikube av slike selvdrevne enheter som tilbyr hverandre det som trengs totalt sett.
Det handler om en ny organiseringsform som speiler naturen. Vi vil gå tilbake til enkle, funksjonelle løsninger hvor ting er organisert etter evner, funksjon og behov. Og vi vil ha med oss kunnskapen og teknologien fra det som gikk dukken. Vi gjentar ikke feilene. Det blir et harmonisk, levedyktig og menneskevennlig samfunn, og det kommer raskere enn noen ser for seg i dag. AI vil ha sin rolle også der, men da er fundamentet et annet.
Forutsetningen er at individene våkner og forstår. Det skjer as we speak, ikke overalt, men i tilstrekkelig grad enkelte steder, slik at det nye får det nødvendige fotfestet. Vi står midt i en fundamental transformasjon.
Til slutt må jeg takke Krabye som tipset meg om det første TED-innlegget. Han har et våkent blikk og det er verdifullt. Jeg skulle ønske det var flere som ham.
"If the benefits of the increased productivity can be shared equally, it will be a wonderful advance for all of humanity."Geoffrey Hinton conveyed an importa...
