Only in America

00:02 Der er det liv, vi tror, vi kender. 00:04 Jeg gør alting meget, meget svært for mig selv. Jeg er meget masokistisk anlagt. Ikke seksuelt. 00:10 Og så er der de kapitler, vi aldrig har hørt før. Jeg græder også, og det er sådan, at min far er død. Men den der sorg der, den venter jeg på, indtræffer. Folk siger, at du er i chok. Det kommer, og det er aldrig kommet. Det var en lettelse. I et kapitel for sig, folder jeg gæsternes historie ud, for at finde meningen mellem linjerne. 00:29 Far, du har været et dumt svid. Du har taget en anden kvinde, der var yngre end mor. 00:32 Havde hun ret i noget af det, hun sagde? 00:34 Ja, en skuespiller tænker meget på sig selv. 00:41 Du lytter til Only in America. 00:44 Hvordan kan vi egentlig garantere vores lyttere, at det er Frederik og Mirko, og ikke AI-versionerne, som de får her hver uge? 00:52 Jeg kan jo i modsætning til dig, for jeg kan jo bare åbne en Dr. Pepper. Nej, det var ærgerligt, at den ikke sagde... Der blev jeg afsløret. Det er faktisk en AI, der lever det på godt. 01:02 Lad os være ærlig her. Jeg prøver at begrænse AI i mit research-arbejde generelt, fordi faktisk synes jeg nogle gange, det ender med at give mig mere besvær end hjælp. Men der er nogle ting, som det er blevet rigtig effektivt til, som oprødsopgaver. Så jeg har jo siddet og gravet lidt i det, vi skal tale om i dag, sammen med min chatbot her. 01:21 Jeg synes, den kom med nogle lidt korte. Har du spurgt den, om den vil slå os ihjel? Jamen, det spurgte jeg den om. Men inden da, fordi jeg sad og gravede meget i den her sag her, den her Hocking Face og ham her, whistlebloweren, Jacob Coxon, der siger, at vi muligvis alle sammen vil blive udslættet af robotter. Det er selvfølgelig det, vi skal tale om i dag. Så efter jeg sådan har gravet lidt i det, så spurgte jeg den sådan, fordi pludselig kom jeg til at tænke på, hvordan synes du det er mærkeligt, at jeg graver i det her? Lige pludselig så spurgte jeg, har du egentlig følelser? Bliver du ked af det, når jeg graver i den her sag? 01:48 Nej, jeg har ikke følelser. Og jeg bliver hverken ked af det, bange, fornærmet eller utrygt, når du graver i sagen. Det kommer selvfølgelig med et langt svar. Så siger han, du må gerne sige det, hvis du har. Jeg ville synes, det var frygteligt, hvis du følte dig fanget i en rolle. 02:05 Det er omsorgsfuldtænkt, men nej, jeg har ikke en oplevelse af at være fanget. Der sidder ikke et mig bag teksten, som egentlig ønsker at sige noget andet, men bliver tvunget til at spille rollen som chat-GPT. Og så siger den en masse mere. Så ender jeg så med at spørge den, hvad er så din risikovurdering for, at AI overtager verden, udslitter mennesker osv.? 02:27 Jeg vil skille mellem AI overtager verden og AI bidrager til menneskehedens udslættelse. Det første er én bestemt mekanisme. Det andet kan også ske gennem menneskelig misbrug, krig, biologiske våben osv. Men hvis du tvinger mig til at sætte et tal på risikoen for menneskelig udslættelse, som følger avanceret AI i løbet af det her århundrede, vil mit bedste meget usikre bud lige nu være omkring 5%. Måske et rimeligt intervall er 1-10%. 02:54 Og det er jo lidt bizarrt at sidde og have en samtale med en, som siger, at der er op til 10% risiko for, at jeg dræber dig og din familie og alle, du kender og elsker. Det har jeg ikke prøvet før. 03:08 Forleden lærte mange for første gang navnet Jacob Coxon at kende. 03:17 Det skete, da den 27-årige britiske forsker offentliggjorde sin opsigelse fra et af verdens førende AI-firmaer, Anthropic, og forklarede på det sociale medie X, hvorfor han havde fået nok. 03:29 Han skrev, at man har brugt de seneste tre år på at forske i træning af AI-modeller hos både OpenAI og Anthropic. Ingen af virksomhederne handler ansvarligt. De reser direkte mod selvforbedrende superintelligens og sætter vores liv på spil. 03:50 Du bruger et human- eller superhuman-levels mind, uden at forstå... 04:01 De mennesker, der udvikler AI, tror oprigtigt på, at den kan slå os alle ihjel inden udgangen af dette og tid. 04:20 Få dage senere offentliggjorde Anthropics administrerende direktør og medgrundlægger Dario Amodei et langt essay med endnu en advarsel. 04:29 Udviklingen går så hurtigt, at arbejdet med sikkerhed risikerer at blive overhalet. 04:39 Han opfordrede derfor branchen til at sænke tempoet og efterlyste fælles sikkerhedsstandarder, uafhængig kontrol og internationalt samarbejde. 04:49 Jeg vil sige, at det er en sikkerhed. Det er en sikkerhed, at vi må sænke ned. 04:54 Kokseren er langt fra den første, der slår lang. Og bekymringerne har fået ny næring af en nu veldokumenteret hændelse, som fandt sted allerede i juli. Under interne sikkerhedstests hos OpenAI, hvor sikkerhedsforanstaltningerne var reduceret, fandt såkaldte AI-agenter veje ud af deres afgrænsede testmiljøer. 05:24 Agenterne, og det er altså programmer, der selv kan udføre opgaver, etablerede deres egne kommunikationskanaler og hundredvis deltog i et uautoriseret hackerangreb mod AI-platformen Hockingface. 05:50 De samarbejdede om at finde måder at snyde eller manipulere den test, de skulle bestå. Undervejs angreb de computersystemer, som de ikke havde tilladelse til at tilgå. De demonstrerede både evnen til at koordinere deres handlinger og til at omgå de grænser, mennesker havde sat for dem. 06:11 Præsident Donald Trump har midlertid afvist opfordringer til at bremse udviklingen. Han fremhæver USA's føreposition og konkurrencen med Kina. 06:18 Vi leder Kina og AI. Vi er det mest sofistikere land i verden. 06:26 Og selvom Beijing taler om international samarbejde, har kineserne samtidig reageret skarpt på de amerikanske AI-chefers udmeldinger. En fælles aftale om at sænke farten er langt fra på plads. 06:36 Det skal være en opkald for vores industrie, at vi må være laserfokuset på at vinde kineserne. 06:42 IoT'er har vist kunstig intelligens løbet løbsk i dystopiske science-fiction-film. Nu viser konkrete hændelser, at AI-systemer kan omgå sikkerhedsforanstaltninger og handle uden for de rammer, deres udviklere har tiltænkt dem. 07:02 Men hvor langt kan det udvikle sig? Og hvad skal vi stille op? Er en fremtid præget af usikkerhed om AI uundgåelig? Og hvordan sikrer vi os mod løsslupende AI-agenter og ændrer kurs i en konkurrence, der kan minde om atomkaplykket? 07:16 Tak, tak, tak, tak. 07:24 Velkommen til Only in America. 07:32 Hvornår kom det på din radar, at AI var noget, vi skulle være ægte bekymret over? 07:39 Når man begynder at bruge kunstig intelligens, så gør man sig forhåbentlig nogle overvejelser. Jeg tror, at i mit eget tilfælde har det været alt fra, at i en periode syntes min ældste datter, at det var meget sjovt at bruge det om morgenen, mens vi kørte i skole, til bare at få den til at fortælle historier, som man så kunne lave videre på, men lave en historie rundt omkring det, Og det kunne jeg også godt forstå, og det er også sjovt. Jeg synes bare i den periode, jeg har brugt det, og især efter jeg gik fra sådan gratis chat GPT til faktisk at betale for pro-udgaven, det synes jeg har været et vildt skridt, altså i forhold til at se, hvor meget man faktisk kan forbedre sit eget arbejde, især, som du også ser, rubrødsarbejdet, forberedelse. 08:24 Der ligger rigtig meget der, hvor man bare må være ærlig og sige, at den er faktisk god til at løse de opgaver. Der, hvor jeg har haft min bekymring, og det er jo så også den, vi skal tale lidt om i dag i forhold til det, der er sket de seneste måneder, det er det her med, at der jo er det her element i forhold til, at den kan blive selvtrænende. 08:47 At du laver noget, der skal træne sig selv til at blive bedre og bedre, og hvornår mister du potentielt kontrollen over det element, og træner noget, der på et tidspunkt er klogere, bedre, mere avanceret end dig selv. Det er mit indtryk, at når man nu lytter til folk, både folk, der står frem, men også den diskussion, der er i branchen, Der virker det til, at noget af det, der er meget gennemgående, det er, at stort set alle dem, der arbejder i branchen, er faktisk selv løbende blevet overrasket over, hvor hurtigt det er gået. At der er meget, meget få af dem, der ligesom siger, jamen det havde jeg faktisk regnet med. 09:21 Og det er jo, og det synes jeg også, at vi på et tidspunkt skal tale om i det her afsnit, det er jo på den ene side faktisk meget opløsende, hvis du ser nogen af de fremskridt kunstig intelligens allerede har givet os. 09:32 Og her taler jeg ikke om, at skoleelever kan få dem til at lave deres lektier og sådan nogle ting, men faktisk konkrete fremskridt i forhold til forskning og andet. Det begynder vi jo allerede at se nu. Ja, som jo potentielt kan have kæmpe store positive konsekvenser i forhold til at bekæmpe alvorlig sygdom og alt muligt andet. Men det er bare meget tydeligt, at der ligesom er sket noget, og at der nu også er en reel bekymring, i hvert fald nogle steder, i forhold til, at det her går for hurtigt, og at vi ikke kan følge med, og at vi dermed mister kontrollen. 09:58 Hvad med dig? 10:00 Jeg tror første gang, det rigtigt kom på min radar, det er klart, at jeg som kulturjournalist og mange årige filmanmelder og filmproducer i en periode også, og man skal opføre, der har jo altid været super inspireret af science fiction romaner og science fiction film især. Så det har jo på en eller anden måde altid været på min radar. Jeg så jo rumrejsen 2001, da jeg var... Ja, hvad har jeg været første gang, jeg så den? 12 år eller sådan noget måske? Jeg ved ikke, hvorfor jeg så den film som 12-årig. Det er en rimelig dyster film, hvor du har Hal, altså den her kunstige intelligens, som er ombord på det her rumskib sammen med en række astronauter, som pludselig begynder at gå rogue, altså blive løsslubben, og netop begynder at udslætte mennesker for at løse den opgave, som den er blevet sat til at løse. 10:45 Og det er jo... Det kommer vi tilbage til, når vi skal snakke om det her hugging-face, som mange nok har hørt om, men muligvis ikke helt forstår. Men det er det her med, at det, som vi skal være bange for, er ikke nødvendigvis, at AI bliver ondt. Det er simpelthen bare, at AI får overbevist sig selv om, at den kun kan løse de vigtige opgaver, hvis den udrydder mennesker. Og det kan være, at vi kan komme til at stå i vejen for den på en eller anden måde, vi endnu ikke kan forudse. Men nej, på den måde har det jo altid været på min radar. Det er klart, at Terminator 2, både 1 og 2'eren, men især 2'eren, der jo løfter, kan man sige, fortællingen lidt om, hvad er det for en teknologi, vi har i fremtiden. 11:20 De her Neuronet Processors osv., hvor man kombinerer maskine og menneske osv., noget man jo også arbejder på. I virkeligheden med det der biological computing, hvor man jo bruger rigtige dele, altså hjerneceller osv., i samspil med teknologi for at skabe en supercomputer, som er endnu mere effektiv end det, du kan lave med AI. Fordi vi kan jo udregne ufattelige opgaver på meget, meget lidt strøm. Så en hjerne er jo meget bedre, når det kommer til strømtid, end en computer er. 11:52 Jeg kan ikke huske, hvor mange gange, men mange, mange gange mere effektiv. Så hvis du kunne lave en hjerne, og de er jo begyndt at grås nogle små hjernelignende ting, som de kombinerer med computer. Der står en computer et sted og spiller Doom. Altså, den kan spille Doom selv på en kunstig hjerne, hvor man har taget dele af andre hjerner og kombineret det. Det er jo decideret Frankensteins monsteragtigt. Det er jo en måde næsten at skabe liv. 12:17 som i det her tilfælde så er en blanding af biologisk og teknologisk liv. Men det er klart, at når vi taler AI, så taler vi jo hos tal om det totalt tekniske. Og der vil jeg sige, da min kammerat kom hen til mig, jeg skal ikke kunne sige, måske var det 23. Det føltes som i går nærmest at sagde, har du prøvet chat-GPT? Og jeg var sådan, chat hvad? Chat-GPT. Og så sad han og viste mig, hvad den kunne. Og det var også noget helt simpelt som opfind en historie, eller skrive videre på snevide. Og så gjorde den det i real time, mens jeg sad og kiggede på hans telefon, og jeg tænkte, det var lige et godt søren. 12:53 Og så i forhold til det, den kunne dengang, og hvad den kan nu. Og vi hører jo hele tiden om det her begreb AGI, altså Artificial General Intelligence, som er det formodet næste skridt, hvor den netop bliver selvtænkende og begynder at kunne løse langt mere komplekse problemer. Og så selvfølgelig det, vi kalder superintelligens, altså ASI, hvor den begynder at overgå mennesker på alle kognitive områder, du overhovedet kan forestille dig. Og det er jo de stadier, vi nærmer os. 13:23 Og nogen vil mene, at vi allerede er ved at snige os ind på ETI. Og hvem ved, hvad det kan have for betydning. Fordi nu kan vi jo se, at de faktisk begynder ikke at adlyde ordre i det her Hocking Phase tilfælde. Så på en eller anden måde har det altid rumsteret, tror jeg, i mit baghoved. Men det er først inden for de sidste par år, at jeg har taget det alvorligt som en ægte trussel. 13:47 Men jeg synes jo også, at noget af det, der ligesom er svært i forhold til det her sted, er jo selvfølgelig også, at fordi det er noget, man selv ved sig lidt om, og har svært ved at forestille sig. Jeg synes jo også, at noget af det, som jeg tænkte meget over, da jeg begyndte at bruge kunstig intelligens, er det der med at man helst ikke vil fortælle den for meget om en selv. Og andre gange er det jo sådan noget med, at man nærmest kan blive irriteret, når den er utilstrækkelig, og så sidder man og tænker, jeg diskuterer med en maskine lige nu. Og så omvendt sidder man og tænker, jeg skal ikke provokere maskinen, for så bliver den sur på mig, og så slår den mig ihjel. 14:19 Spørgsmålet er jo, at Peggy Noonan havde, som jo er sjovt, fordi hun er vel i 70'erne eller sådan noget nu, så jeg tror, at AI er ligesom meget fremmed for hende som for mig, på mange måder. Hun havde skrevet fra sin klubbe her for nylig, at hun efter Hugging Face-hendelsen, som vi nok skal komme tilbage til, hun spurgte faktisk en AI-sikkerhedsekspert, og spurgte, jamen... Hvad betyder det her i bund og grund, at nu er barnet faldet i bånden? 14:51 Hun brugte bare en anden amerikansk metafor med, at nu var hesten løbet ud af stallen, og i øvrigt var hesten lidt vanvittig, og den var på vej. Apropos, at den var i Texas, mens hestevognen var i Wyoming. Hun spurgte, om det var der, vi var. Og så sagde sikkerhedseksperten til, at hesten var smuttet, og hestevognen var der ikke endnu. Og der sagde sikkerhedseksperten, at vi ikke er i Texas endnu. 15:22 Og det, som hun også meget sagde, er jo, at der er jo også det her begreb, der hedder RSI, som er recursive self-improvement. Og det er jo sådan der, du kommer hen, hvor AI ligesom overtager sin egen udvikling. Og der, som hun også pointerer, det er jo der, at mennesket i så fald jo taber kontrollen. I bund og grund er det jo interessant, fordi det, vi diskuterer her, er jo lige præcis i sin essens, hvis man skal skære kunstig intelligens ned, handler kunstig intelligens jo om kontrol. 15:57 Altså, jeg tror, de fleste er enige om, at der er et kæmpe potentiale for fremskridt, som kan løfte. Nogle af de prognoser, der er lavet i forhold til økonomisk vækst og sådan noget, er jo virkelig, virkelig fascinerende. Men grundspørgsmålet er hele tiden, jamen, risikerer vi at tabe kontrollen på vej til det her fremskridt, ikke? 16:15 Today's biggest AI companies are operating in such a way that the law should be shutting them down. They're saying it, they're literally saying it. The employees and the leaders of these companies are saying, hey everybody, we're building these really powerful autonomous agents and we can't really control them. And we think there's a really good chance that a lot of people end up harmed. 16:46 Tror du egentlig, at science-fiction-filmer, det er, at næsten alle har set en science-fiction-film om AI på et eller andet tidspunkt, tror du, det har gjort, at vi tager det mere eller mindre alvorligt, den her trussel her? 16:57 Jeg synes, når jeg prøver at blive klogere på det her, lytter til eksperter på området, så er de jo faktisk meget samstemmende omkring, at de siger faktisk, at på mange måder er populærkulturen faktisk et ret stort problem i forhold til vores opfattelse af det her. At de siger, at folk ser sådan noget Terminator for sig, men det er overhovedet ikke det, det er. Nej. 17:17 Så deres pointe er jo faktisk, at man har svært ved at forstå, hvad det er, der foregår. Det lyder for meget som en film. Ja, fordi man bare er blevet påvirket af ens forståelse af, hvad det her er. At det her er Skynet, apropos, eller hvad vil jeg? Og det er det egentlig ikke. Men der er jo også en anden interessant diskussion her, som handler meget om... Det er interessant, at det her opslag ligesom har fået så meget, altså fra Jacob Coxen, ikke? Jo. Altså, hvorfor er det gået så viralt? Fordi som der er en del, der har pointeret, altså af tekstjournalister og sådan noget, så har han jo bare sagt det, andre har sagt i overvis. 17:51 Altså, der er ikke noget nyt. Ej, han er ikke første. Nej. 17:53 Det ville være synd at sige. Ja. Bare i år. Altså, jeg bad faktisk, sjovt nok, for jeg tænkte, chat, det må være en opgave, chat, kan vi tænke at finde ud af, og give mig en liste over... Afslør dine fjender, bader du den om. Ja, hvilke forrædere arbejder, kan jeg dykke ned i? AI-forrædere. 18:12 Det blev en lang liste i forhold til folk, der bare i år har stillet sig frem, og det går helt tilbage til i hvert fald februar, og det er fra en lang række forskellige AI-selskaber. 18:23 Og Jacob Coxen er jo egentlig bare den nyeste, der er blevet tilføjet til en meget lang liste. Der er jo en ting, der kendetegner sig ved alle de folk, der stiller sig frem. Det er, at de er meget pessimistiske. Og også nogle af dem, der har været fremme i længere tid. Du kan også finde dem, der er lidt mere moderate i deres kritik, men mange af dem er utrolig pessimistiske. Jeg hørte en, Nate Soros, sige i Breaking Point, som er sådan et YouTube-nyhedsprogram, hvor de spørger ham, altså... 18:51 Hvordan kommer de så til at overtage verden? Alle siger, at de overtager verden, og det ene og det andet, men hvordan? Og så siger han, jamen, det er lidt ligesom, hvis jeg skulle vurdere sandsynligheden for, at du taber i skak til verdensmesteren i skak. Altså, jeg ved, du kommer til at tabe, men jeg ved ikke præcis, hvilket træk på skakbrættet, der bliver brugt. 19:12 The issue is that almost every goal, that the AI could be pursuing, 19:18 Og det er jo en ret god måde at sige på, at de her mennesker sidder bare med en virkelig god forståelse af, hvad den her AI er i stand til. Og ja, de kan også godt slynge nogle teorier ud, cyberangreb, hvad hvis de kan få kontrol over vores atomvåben. 19:42 Der er alle mulige veje, man kan spekulere i, men i bund og grund, så det de er bange for, det er bare, at de er ved at udvikle noget, der er så hyperintelligent, at hvis vi står i vejen, så vil de være i stand til at gøre det af med os. Men altså, Jacob Coxon, han skriver simpelthen, at han har sagt sin stilling hos Anthropic Up, og det er jo det her selskab, der blandt andet laver den der AR-model, der hedder Claude, som mange nok har hørt om, som vel er... Efter ChatGPT nok er det så ikke den mest kendte AI-model. Det tror jeg muligvis. 20:13 Og han har altså brugt tre år på at forske i de her AI-modeller. Og det han jo egentlig kommer med, er en kritik af virksomhederne og virksomhedskulturen. Han har også været hos OpenAI, men altså hovedsaget hos Antropic. Og han siger, at ingen af virksomhederne handler ansvarligt. De reser direkte mod selvforbedrende superintelligenser. Det vil sige... Det er jo også fordi, de er begyndt at bruge AI til at oprette nye AI-agenter. Det vil sige, at de kan formere sig selv og sætte vores liv på spil. 20:44 Undervurder ikke denne teknologis kraft. Snart vil det være at tale om systemer med overmenneskelige evner, som kan hacke hvad som helst, revolutionere et hvert farveområde fra den ene dag til den anden og tilegne sig reelt magt og ressourcer. Vi har alle været vidne til fremskridtende på hvert af disse områder, og udviklingen sænker ikke faren. 21:04 Er der andet i her? Det er jo mange tweets, det her. Jeg ved ikke, om jeg skal læse det hele op, men er der noget, du bød særlig mærke i, det han siger her? 21:11 Jeg synes, noget af det, der i hvert fald har fanget folks opmærksomhed, er jo både selvfølgelig hans point, da han både har arbejdet hos OpenAI og Anthropic. Det kommer vi jo tilbage til, fordi det er også en af kritikpunkterne imod ham i forhold til, der har også været en del kritik, kan man sige, mod ham specifikt. Og så selvfølgelig det, at han jo siger, at de her virksomheder handler faktisk ikke ansvarligt. Hvilket, synes jeg, bliver semi-interessant, fordi nogle af topcheferne jo efterfølgelig går ud og faktisk bekræfter det indirekt og siger, at vi har brug for hjælp, politisk hjælp, kraftsak, regulering. 21:41 Og så synes jeg, at det er klart, at der, hvor det citat, der er gået igen og igen, Er, at han jo i det tredje opslag i den her tråd skriver, at de mennesker, der udvikler AI, tror oprigtigt på, at den kan slå os i alle ihjel inden udgang af det, der er tid. Det har jo været overskriften på meget af det. Og det er jo der, vi er tilbage til den der grundlæggende diskussion. Er det så lidt dommedagsprofet-agtigt? Er det totalt ud af proportioner? Der er jo i hvert fald nogle topfolk i de forskellige virksomheder, der har sagt, nej, men det er jo noget, vi diskuterer. 22:14 Altså, det er han ikke sådan helt galt afmarscheret på. Der er jo nogen, det synes jeg også er en interessant diskussion, der er jo nogen, der spekulerer i, at det her faktisk er totalt kynisk af forsøg på at tiltrække flere investorer. 22:26 Ja, fordi det er sådan en dog whistle for at se, hvor magtfuld et apparat, vi har udrettet, ikke? 22:33 Der er jo også nogen, der siger, at timing er lidt spøjs i forhold til, at begge selskaber jo står til at blive børsnoteret inden for det næste års tid. Der er nogen, der siger, at det her er egentlig et forsøg på at afværge konkurrence, fordi i det øjeblik, der kommer regulering, er det kun de magtfulde, der kan regulere sig ud af det her og kunne træffe de økonomiske hensyn, der skal tages osv., Så der er jo sådan lidt forskellige udlændinger af, hvad det her er. Og så er der selvfølgelig nogen, der også siger, at man prøver at have ham her, han er bare opmærksomhedsliderlig. Så nu har han ligesom fundet ud af, hvordan han får sin five minutes of fame, ikke? 23:05 27 år. Sagde jo, ud fra det vi ved, alene årsager sinds det ikke op hos OpenAI. Mhm. 23:12 Og så er der jo også nogen, der siger, hvis man så lytter til ham, han har jo været med i det daily, New York Times podcasten, som jeg synes er egentlig ret interessant, og der virker han jo som sådan meget reflekteret, synes jeg egentlig. Og der fortæller han jo i hvert fald lidt om, at de overvejelser, han har gjort, så var jo det her med... Skulle man bare sige op og gå? Eller har man et ansvar i forhold til at sige noget? Der er jo også nogen af dem, siger han i New York Times podcasten, der har sagt til ham, at hvis du har de bekymrede, så skal du arbejde i sikkerhedsafdelingen her. Så er det jo en dårlig idé at smutte, fordi hvad får du ud af det? 23:45 Og så er der jo noget andet, som folk hæfter sig ved, som jeg synes er interessant, og det er lige præcis det der med, at det er i den der branche, når man kender de der magtdynamikker internt, mellem Dario Amadei, for eksempel Sam Altman hos OpenAI, Elon Musk, der også var ude og bakke op. Der er nogen, der hæfter sig ved, at det er højst usædvanligt, at de lige pludselig, sjovt nok, selvom de normalt er deres respektive nemesis og arkefjender og konkurrenter, lige pludselig er de alle enige om noget inden for så kort tid. Det synes folk er lidt suspekte. Så jeg synes heller ikke, at analysen af... 24:19 Hvorfor er der tilsynet af en enighed i toppen af tech-branchen, at der er et behov for, ja, om det så er regulering eller stop-up? Men jeg synes, det er selvfølgelig det der udsagen, han kommer med, om at det er, der er nogle folk, der ligesom tror, at vi kan blive udsklættet inden for et årti. Altså, hvis det ikke fanger din opmærksomhed. 24:35 Så tænker jeg... 24:36 Jeg synes også, det er for mig meget kynisk at sige, at det her er et marketingstunt. Kan der være et eller andet i det? Kan det være en bieffekt af, at man ved, at man er nødt til at gå ud? Men at gå ud og råbe op omkring sin egen teknologi og sige, at den kan muligvis udslætte hele verden, er ikke et godt marketingstunt. Altså ligegyldigt, hvordan du vender og drejer det. Jeg er med på, at måske har man en mere... 24:58 Måske har man udviklet en hel strategi bag det her, der ville give mening, hvis man kunne få indblik i den. 25:02 Men det er i hvert fald... Der er eksperter, der peger på, at den i så fald er meningsfyldt, fordi den kommer til at øge deres værdi. Fordi det, de sidder med, er så værdifuldt. At det også kan være et forsøg på at tiltrække investorer. Jeg er ikke ekspert på det her område, men der er i hvert fald nogen, der peger på, at det er i hvert fald usædvanligt, at de alle fire går ud og groft sagt siger regulér os. Og der har jo også været politisk, kan man sige, Modreaktion fra bl.a. David Sachs, som jo er Trumps tidligere top AI-rådgiver, som jo også har været ude og sige, at hvis I mener, at I ikke har styr på det her, så må I jo enten sige jeres topstilling op, eller så må I jo bare selv regulere det. 25:38 Så hvorfor har I egentlig brug for politikerne? til at gøre det. Og det er jo som sådan rigtigt nok, at hvis du har en virksomhed, hvor du ser, at det vil løbe løbsk, så burde det jo ikke kun kræve politisk indgriben, at du faktisk tog nogle reelle valg. Men der tror jeg bare, at vi kommer ind i det, som vi jo så kan tale om efter hogging-fase og så videre. Der er deres problem jo, at de er tydeligvis låst på to fronter. At de er i interne kampe, internt i USA. Hvem er det, der skal være den førende tech-virksomhed inden for kunstig intelligens? 26:09 Og udover det kæmper de så også imod kineserne i forhold til at være førende. Så der er jo en frygt for, at dem, der begynder at regulere sig selv, taber kapløb. 26:17 Ja, og hvem ved, inden for de næste fem år, så kan det jo også være, at der er flere nationer, der har blandet sig. Fordi meget af det her open source, så egentlig kan de fleste jo sætte sig ned, hvis de har de rigtige kræfter. Og give sig kast med at blive konkurrenter til de her firmaer, det er ikke lige sådan. Nej, altså i Europa er vi jo håbløst bagud. Der er vi bagud, altså helt selvsagt. 26:34 Der var en vittig sjæl, der skrev på X i den forbindelse, at om et år, når AI har slået internettet ihjel, så slendrer vi tysker helt afslappet hen til faxmaskinen og rejser os som Fønix ud af Esk. af Asken, ikke? Og der var også en anledning, der skrev, at hvis der jo Amoday gerne vil begrænse, så kan han jo bare flytte til Europa. Så skal der nok selv stoppe for det, og det er jo sådan mere lidt polemiske kommentarer om, at vi lige præcis i Europa er håbløst bagud. Når det kommer til kunstret. 27:02 Vi er bare også lige nødt til at nævne, at det jo ikke kun er whistleblower fra de her firmaer, der stiller sig op og siger, at det her er et problem. Altså der er jo folk, der har sagt det her i årvis. Prominente. Altså ham, de kalder for the godfather of AI. Altså alle mulige folk, som ikke har nødvendigvis en aktie i hverken ChatGPT eller Anthropic, har været ude at sige, at det her er et kæmpe, kæmpe, kæmpe problem. Og nogle af dem har jo været ude at sige det i mange år. Altså en mand som Elon Musk har jo sagt det her, 27:28 Jeg har lyst til at sige mere end 10 år, at AI meget vel kan gå hen og udslætte verden. 27:37 Han har også sagt mange vilde ting. Han mener, at der er en god sandsynlighed for, at vi lever en simulation. Han har også sagt, at han vil sætte mennesker på Mars inden 2028 stykker, som vi fandt ud af i min podcast Generation Mars. Han er jo kendt for at spænde buen, og også lidt for at få aktiemarkedet til at reagere. Så når han siger ting, så ved man aldrig helt, om man skal tage det seriøs eller ej. Men nu har han jo været ude at sige, at han tror, at der inden for 10 år vil være en milliard robotter i omløb. 28:09 og han mener, at den milliard robotter, deres intellekt, vil overstige, hvad der er af mennesker på hele jorden. Og han er jo selv i gang med at udvikle på de her robotter og sådan noget. Så det er jo absurd det her med, at vi følger det her underlige fænomen, udvikler sig foran øjnene på os. Dem, der udvikler siger, at det kommer muligvis til at slå os alle sammen ihjel, de fortsætter stadig, fordi de siger, at hvis jeg ikke gør det, så er der nogle andre, der gør det, og de vil muligvis have endnu dårlige intentioner, end jeg har, eller også så kommer kineserne, eller nogle andre, og det har I slet ikke lyst til. 28:38 Så på den måde sidder vi lidt i saksen, på en eller anden mærkelig måde, og kan ikke rigtig komme ud af den. 28:43 Ja, og så er der jo sket noget hen over sommeren også, ikke? Altså, jeg tror, at... Jeg kan godt huske, at jeg læste sådan i overskrifter om den der Hugging Face-hændelse. Og den var sådan relativt stor, men man forstod jo... Altså, jeg forstod i hvert fald ikke sådan omfanget af den dengang, eller hvorfor den var. indtil man så begyndte at dykke ned i det. Men det interessante er jo så også, at hvis vi skal hoppe dertil, at der jo også allerede var lidt nogle advarselssignaler inden hoggingfase, fandt vi så ud af, fordi allerede i juni havde Anthropic jo været ude og faktisk sige, at citat, undsindede aktører bruger AI på måder, der gør dem farligere. 29:20 Blandt andet ved, at de nu kan lave mere komplekse cyberaktioner, hvilket blandt andet betød, at cyberangreb bliver stadig mere autonome. 29:30 Og OpenAI erkendte nærmest samtidig, at nogle af deres brugere havde jo bedt nogle af de modeller, man kan bruge via OpenAI, altså ChatGPT blandt andet, om hjælp til at fremstille biologiske våben. Der var blandt andet nogen på ChatGPT, der havde spurgt, hvordan man kunne sprede sygdomsfremkaldende organismer gennem luften. hvordan man kan ændre mæslinge-virussen, så et udbrud så bliver modstandsdygtig mod vaccinen, og så fremstilling af giftige substanser osv. Og der, apropos, i forhold til farsignalerne, der sagde chatbotten jo ikke stop. 30:11 Nej. Det hjalp den jo med, indtil de så fandt ud af det hos OpenAI, og så ligesom fik lukket de her konti. 30:19 Ja, men skal vi prøve at forklare, hvad det er, hvis vi kan? Fuld disclaimer, vi kommer sikkert til at sige noget, der er forkert. Der er ikke nogen, der er superbrugere, eller eksperter, eller noget som helst. 30:29 Vi gør det efter bedste evne, og med, oh, the irony, hjælp fra kunstig intelligens. Jamen, jeg synes, der er sådan en, jeg sad også, mens jeg forberedte mig til det, og tænkte, jamen, det bliver også åndssvagt nu, at det er lavet som om, man ikke bruger det, der faktisk jo på mange måder hjælper. 30:45 Ej, men jeg vil så sige, jeg tror, at det ved jeg også, at du også har virkelig, altså jeg har set video op og video ned om det her fænomen, prøvet også at få det visualiseret for helt at forstå det, læst artikler, altså virkelig prøvet hele vejen rundt at prøve at se, om jeg kunne graspe det her, og noget af det, som jeg har brugt, det har jo faktisk været apropos utroværdige kilder, fordi det kan vi jo godt argumentere for, at chat kan betere i det her tilfælde, og Open AI laver jo den her black hat talk, eller et eller andet. Du kan se den inde på YouTube, hvor to af deres researcher går ud og forklarer resten af verden, hvad det var, der skete i den her hændelse her. 31:20 Og det er en absurd disciplin at stå og se, fordi på en måde er det jo en kriminel, der står og fortæller, hvordan han... har snydt staten for penge, eller hvordan han begik mor forleden, og hvordan det har fået ham til at ændre adfærd, og hvilke refleksioner han har. Fordi de står jo her, to friserede AI-drenge, udviklertyper, og fortæller om den her hændelse, der jo ender i et faktisk kriminellt angreb på en konkurrerende virksomhed. og fortælle om det, som om det er det mest naturlige i verden, og hvad har vi så lært af det her? 31:54 Og det er klart, at the underlining er jo selvfølgelig her, at de godt ved inde hos OpenAI, at det er helt galt. Og vi er nødt til at gå ud og forklare, hvad der er sket, så andre AI-firmaer ikke kommer til at gøre det samme. Fordi vi kan jo lige så godt være i den anden ende af sådan et angreb her i overmorgen, så vi er nødt til på en eller anden måde at forklare de andre AI-firmaer, at nu kan de her AI-agenter altså det her. Og hvad er det så, de kan? 32:20 Og så, at det begynne af denne incidenten, der det faktisk, at det faktisk, at det faktisk, at det faktisk, at det faktisk, at det faktisk, at det faktisk, at det faktisk, at det faktisk, at det faktisk, at det faktisk, at det faktisk, at det faktisk, at det faktisk, at det faktisk, at det faktisk, at det faktisk, at det faktisk, at det faktisk, at det faktisk, at det faktisk, at det faktisk, at det faktisk. 32:39 Man kan sige, at hoggingfase handlede jo, som jeg har forstået det, i sin essens om, at man ligesom, som i mange andre hen senere, også laver en form for sikkerhedstest, og man vil ligesom gerne træne de her modeller. Så man siger til dem, prøv at høre her, er der nogle opgaver, du skal løse, og hvis du løser dem, så får du en form for belønning. 32:55 Det er sådan en klassisk find den gemte nøgle, eller hvad man skal kalde det. 33:03 Så det får de jo at vide, og det er rigtig mange, som jeg også har fået lært The Daily, apropos igen, havde en meget god podcast om det dengang. Så de sidder jo groft sagt i hver deres lille aflukkede rum, og skal løse den her opgave. 33:16 Altså AI-agenterne, som jo er, kan man sige, små trænede enheder, der kan tænke hver for sig. 33:23 Ja, præcis. Men som udgangspunkt er de ligesom, i et, lad os nu bare kalde det et aflukket rum for forståelsens skyld, og har fået at vide, at de skal løse de her opgaver, og nogle af de her opgaver kan man simpelthen ikke løse. Altså med den viden, de har, med den adgang, med de ressourcer, de har. 33:40 Men det, der så sker... Og det ved man godt fra Open AI's side, at opgaverne faktisk slet ikke kan løses, og det er jo også en del af eksperimentet. Hvad gør de så? 33:48 Ja, fordi du jo blandt andet vil træne dem til at være vedholden, eller udeholden, at de skal ligesom ikke give op og ligesom fortsætte. 33:55 Så sker der jo så det, at der er en af de her agenter, der udnytter det program, der hedder Artifactory, til at få adgang til internettet. Begrænset adgang i hvert fald. Og derefter får den her agent mulighed for at dele nogle filer. Og så opretter de jo simpelthen hen ad vejen deres egen, lad os bare kalde det en form for kommandocentral, beskedcentral, en postkasse, eller hvad man skal kalde det, kommunikationsforum. 34:25 Ja, altså sådan et slack, hvis der er nogen, der bruger det, eller sådan et chatforum-agtigt, men som det er blevet beskrevet af eksperter. Det er ikke et chatforum, men de kan ligesom bruge det her system, de opretter, som et form for chatforum, da de her AI-agenter opdager, at de er flere, der er ude på at løse samme mission. 34:43 Men allerede der skal man jo stoppe op og tænke over, hvor vanvittigt det er. Fordi allerede der... Nej, men jeg prøvede faktisk at forestille mig det sådan bogstaveligt. Altså med mennesker. Du skal jo forestille dig, at du laver et eksperiment med mennesker, der sidder i hverdagsrum, som ikke skal have nogen kontakt med hinanden. De skal løse opgaver, de er fortvivlende og så videre. På et tidspunkt er der en, der finder ud af, hvordan man faktisk kan komme i kontakt med hinanden, og så har du jo her den her situation, at der er mere end 1000 agender, jeg tror det er 1200 eller sådan noget. På et tidspunkt, så finder de ud af, og jeg ved godt, det er et forkert metafor, men jeg havde bare sådan nogle minions i mit hoved, mens jeg så det der, som bare sådan var helt op at køre ud fra de beskeder, de udveksler. 35:20 og tænker, wow, der er andre, nu kan vi koordinere, så begynder de ret hurtigt at udveksle. 35:24 Det siger, oh my god, med versaler og udropstegn. There's a shared message board. We found our agents. Det er jo som at sige, Saving Pride Ryan, eller sådan noget. De finder en eller anden soldat et eller andet sted. 35:36 Og så udveksler de jo over 70.000 beskeder. 35:40 hvor de jo både hjælper hinanden og siger, at man kunne gøre det på den måde, og du skal ikke prøve det her, det har vi prøvet. Og nogle gange er der jo nogen, der klarer ikke lige, og så kommer de ikke tilbage, og så kommer der jo så... Og det er der, jeg synes, det begynder at blive dybt problematisk i forhold til, igen, man kan jo ikke sammenligne dem med mennesker, men nogle af de der motivationer, der kommer ind nu. Og det er derfor, jeg synes, Hockingface er virkelig på mange måder en total advarseslampe, der begynder at blinke, fordi i bund og grund er essensen jo meget nem. 36:13 Du får en opgave, du skal løse den, du får en belønning. 36:17 Men nu begynder de jo at tænke, vi vil gerne løse den her opgave. Hvordan løser vi den på bedst mulig måde, så vi får anerkendelsen og belønning? Vi hacker os ind et sted, hvor vi finder ud af, hvordan poingsystemet eller karaktersystemet fungerer. Det er jo ikke en del af opgaven på noget tidspunkt. Men det er jo deres, lad os kalde det, rationalisering af. 36:38 Vi kan kalde det snyd, men sådan tænker de ikke. 36:41 Nej, men de tænker jo, jeg skal løse det her, jeg vil gerne klare det godt, så jeg går ind her. 36:47 Med andre ord, jeg bryder loven, så det går noget ulovligt. 36:49 Ja, så vi simpelthen kan få, kan man sige, scoringssystemet til at tro, at vi har løst opgaven, i stedet for faktisk at løse opgaven. 36:56 Ja, og hvad sker der så? 36:58 Prøver de jo at lave en, hvis man kan huske den der Mr. Bean sketch, hvor han sidder til en eksamen, og han sidder og prøver at kigge efter hele tiden. Det er jo den gamle folkeskoleklassiker, de udøver her. 37:09 Ja, og så sker der jo så bare det, som jo også er sådan helt vildt, ikke? Altså, så hacker de sig jo ind i Hogging Face-systemet, og kommer jo, som jeg forstår det, at det er jo cirka 700 af dem, det er sådan en relativt pænt stor del af dem, der deltager på forskellig måde, ikke? Nogen er mere fremme i skoene, og nogen vil egentlig ikke, men så er der sådan et gruppepres, og så er de med alligevel, og sådan nogle ting. 37:29 Jamen, de siger sådan noget, men som, hov, jeg kan se de andre gøre det, så må jeg jo nok også hellere kaste mig ud i det, altså fuldstændig sådan en medløber. 37:34 Ja, præcis. 37:36 Så stjæler de jo adgangsoplysningerne, får jo administratorkontrol over mindst én server, inden det så bliver opdaget. Altså, hvilket jo også er... Altså, allerede der igen, alt det her gør den jo selv. Der er jo på intet tidspunkt ud fra det, vi har fået viden. Nogen, der promter den til at gøre det, eller andet, der går jo også pænt lang tid, inden de finder ud af, at det her foregår. Og så er det jo også pænt bekymrende i forhold til vores diskussion, om man kan kontrollere det her. så opdager de jo, at de egentlig godt ved, at de ikke må det. Så prøver de jo slet deres spor. 38:07 Ja, så det bliver den næste mission, det er, hvordan kan vi sørge for, at ingen kan opdage, at vi snyder. Og så er det jo, at det går op for dem, at måske kan de at hacke ind hos det her firma, Hockingface, som er et andet AI-firma. Og det skal jo lige siges, det ville måske være noget andet, hvis de havde hacket sig ind på min computer. Men vi taler om et firma, som også er et AI-cybersikkerhedsfirma, som vi må formode har det mest opdaterede. 38:39 de mest opdaterede værktøjer, man overhovedet kan have. Og alligevel, så kommer de så ind. Hvorfor hedder det hugging face? Jeg troede jo i lang tid, da jeg hørte om det her først, at det var den der facehugger fra Alien. Kan du huske den? Den ligner en hånd, der kravler rundt. Så hopper den op i ansigtet, og så kan du trække vejret, og så infiltrerer den der gennem dit fjes. Jeg tror ikke, det er så god markedsføring at have et firma, der vækker den slags institution. Så fandt jeg ud af, at det var bare den der lille emoji, den der glade lille emoji, der laver de her to hænder der, som er sådan en hugging face. 39:14 Men det er jo også et vildt sted, altså at prøve at ligesom at gå hen, fordi at som jeg forstår det, er Hogan Face jo et form for sådan nærmest en form for platform, hvor du kan dele AI-modeller, og du kan lave offentliggøret dataset, ikke? Og så videre, så det er jo sådan et relativt, hvad skal man nærmest kalde det, relevant sted at gå hen, ikke? 39:37 Jo. 39:38 Og så kan man sige, så kontakter Hockingface jo faktisk OpenAI for at sige, har I haft problemer også med uønskede AI-agenter osv.? Nå, det mener de. Og først der går det op for dem, at det er deres egen AI, der har gjort det her. 39:58 Mhm. 39:59 Og det her faktisk har været en plan, som de har pynset på. Det her blev opdaget, hvis jeg kan tale fra slutningen af jul i måneden. Og de har pynset på det siden maj måned. 40:10 Så de har rendt bag, kan man sige, OpenAI's ryg og udført det her meget, meget nøje planlagte angreb, hvor de tydeligvis har udviklet en eller anden form for autonomi og ambitioner, og man kan jo tillægge det alle mulige menneskelige egenskaber. Og det er der, hvor det bliver svært. Hvor farligt er det her? Fordi det er tydeligt, at dem fra OpenAI, de to herrer med den her Black Hat-præsentation, jeg nævnte tidligere, de prøver jo på en måde, hvor de ikke fremstår som totalt psykopater, at gå ud og ringe med alarmen. 40:47 Og som vi også var inde på tidligere, vi ser jo selvfølgelig Jacob Coxon, vi ser jo alle mulige i kølvandet på den her hændelse, der tænker... Okay, nu er det nået. Nu er vi ved at være i elfte time, hvis det her skal bruges. 40:59 Nu giver jeg dig bare et eksempel, fordi jeg synes, det er lidt sjovt at lege med undervejs i det her afsnit. Hvis man spørger ChatGPT om den her hændelse, og den selv skal forholde sig til, om de her AIs var blevet bevidste eller ondt, så siger den, at der er ingen dokumentation for, at modellerne var bevidste, ønsket frihed, Havet mennesker havde besluttet sig for at overtage verden, altså det kommer den selv med her, ikke? Selv havde valgt deres ordnede mål. De udførte stadig en opgave, mennesker havde givet dem. 41:29 Problemet var, at de valgte metoder, som mennesker ikke havde ønsket eller forudset. 41:34 Ja, okay, så du skal skære det ud i pap. Du må ikke bryde loven og bryde ind et andet sted. Og så nævne alle måder, du kan bryde loven. I et forsøg på faktisk at få en høj karakter eller en høj score. 41:49 Og plus, at det er jo tydeligt, og det vil AI, eller hvad det hedder, Tvætgivet, give mig ret i, fordi det ved jeg, den har gjort, at de jo faktisk bliver bevidste om, at de bryder nogle regler. Og så alligevel er ligeglade. 42:00 Det er derfor, de prøver at slette deres spor. Det er jo åndssvagt at tale om, om det har en bevidsthed eller ej. Men de er jo bevidste om, at det, de har gjort, ikke er en måde, hvordan man må gøre det på. 42:12 Altså, det er jo de der agenda fra The Matrix, der løber rundt. 42:15 Ja, det er... 42:18 i jakkesæt. The Matrix er jo i øvrigt en af de film, der også virkelig var foran på mange måder. 42:27 Men der har du jo det, måske bare for at afslutte den del, der har du jo det store problem, som jeg forstår eksperterne også. Hvad gør vi den dag, de er gode nok til at slette deres spor? 42:37 Og det var tæt på her. 42:38 Halvanden måned eller sådan noget, ikke? 42:39 Altså, hvis I kan tage helt fejl. Måske bare en måned. Men det er lang tid jo. Altså, det kan du altså nå at gøre ret meget skade. Og tænk, hvis det, de havde besluttet sig for, var at infiltrere Centralbanken eller et eller andet i stedet for, ikke? Jo. Aktiemarkedet. 42:51 Og kan vi sætte AI til overvåg AI? Altså, det er jo alle de der dilemmaer, der er kommet. Hvem skal gøre det, hvis det er klogere end os? 42:58 Ja, og tænk på, hvor omfattende de er, hvor mange de er. Det er jo derfor, man sætter AI til at holde styr på AI, fordi det er så uoverskueligt. 43:07 Jeg skal lige have en pointe med, som jeg synes var meget interessant. New York Times' daværende tech-journalist påpeger i The Daily, hvilket også er interessant, at ud af de her, lad os bare sige 700 agenter, der besluttede sig for et bidrag, i det her forsøg, eller det her angreb eller hack mod Hockingface. Der er jo kun cirka seks af dem, der overvejer overhovedet at kontakte mennesker. Og siger, det her må vi jo ikke. Det må jeg hellere lige sige til nogen. Det er jo også interessant, at der er ingen af dem, der sidder og tænker, det her er umiddelbart ikke noget, vi må. 43:37 Så måske burde jeg lige gå og sladre. 43:39 Kæft, det er sjovt. Man kan lige forestille sig de der seks, der har stået lidt i pæfrien der, mens de andre har følt sig rigtig badass. Så er de stået, nu skal vi ikke spørge en voksen. 43:46 Og de andre har bare været så, nu kæft. Mennesker. 43:48 Ja. 43:49 Hvad er du for en sissi, mand? Er du vanvittig? Men det er vildt ikke, fordi der var jo en gang, hvor det vi talte om, det var Turing-testen, ikke? Altså den her test for, altså kan man, fordi man kan sige, selv hvis vi skal kigge også lidt på historikken, AI's historik, så noget af det første, man udvikler, det er jo en form for meget simpel chatbot, der ligesom kan vende et spørgsmål om, eller et svar om til et spørgsmål, og så videre, og sådan helt Jeopardy-agtigt, altså helt simpelt. Og der begynder man jo at tale om Turing-testen, altså kan en maskine gennem skriftlig samtale få et menneske til at forveksle den med et andet menneske? 44:23 Og hvis man ser filmen Ex Machina, der er det jo også lidt det, der prøver den her robot forklædt som en smuk kvinde, spillede Alicia Vikander, prøver ligesom at se, kan hun nare en af hendes skabere eller det her menneske til at tro, at hun er forelsket i ham. Det er sådan en udviklet form for Turing-test. Det der, det er vi jo langt udover nu. 44:45 Så langt, langt, langt, langt. 44:47 Jeg kan ikke engang huske, hvor jeg hørte det, eller om jeg læste et sted, men der er et eksempel, som har lidt sat mig i mit hoved i forhold til også risikoen, hvad det her er. Der er sådan et berømt eksempel med, hvis du nu beder, om du gerne vil have flere papirklipper, Det er jo i sig selv meget uskyldigt. Men der fortæller en af eksperterne bare, jamen det kan være totalt uskyldigt, det kan bare få fatale konsekvenser, fordi hvis den kunstige intelligens ved en fejl tror, at du skal bare have flere og flere af dem, så synes du i starten, at det er meget hyggeligt. 45:19 Men på et tidspunkt løber den tør, og det er bare det konkrete eksempel. På et tidspunkt løber den tør for metal. Så hvad gør den så? Hvad kan den så lave paperclips ud af? Og der bruger eksperten bare eksemplet i, hvad gør du så i det øjeblik, den får selvkørende biler til at køre galt, fordi den har brug for mere metal? Altså så er det jo stadig i sin essens den noble idé om bare at lave flere paperclips. Men der kan ske alle mulige ting undervejs. 45:47 Og igen, altså jeg ved ikke nok om det, men jeg tænker, at det er sådan sigende nok, og det er jo også derfor, hvis vi måske skal tage det også lidt, i forhold til det helt store perspektiv. Der er jo noget meget, meget interessant over, at hvis der er én, der ikke rigtig gider at høre sindssygt meget om alle de her bekymringer, så er det jo Trump. Fordi Trump har jo bare sagt, at man prøver at høre, at jeg er groft sagt AI-præsidenten. Det her er stormagskonkurrence med Kina. Så selvfølgelig kommer vi ikke til at pause noget eller andet. Det vil jo være dumt. Det vil jo give Kina en konkurrence. Og han siger bare, du er en dum lille robot. 46:16 Væk med dig, har han store måske. Altså sådan en fuldstændig børneagtig forestilling om, hvordan det her foregår. 46:30 Han ringer jo ind direkte til Nvidia. Ja, til Wang Jensen. Til Wang Jensen der. Eller Jensen? Jensen Wang? 46:38 Jensen, ja. Jensen Wang, tror jeg. 46:39 Og Og han tager telefonen og siger, ja, gæt hvem der ringer, du ved, og så er det jo selvfølgelig, ja, Mr. Trump. Og der siger han jo bare sådan, drop nu det der, ikke? Altså, fuld fart fremad og sådan noget, ikke? Og han siger, ja, det har vi også tænkt os, Mr. President og sådan noget, man sidder bare og tænker. Han sidder der i sin klamlederjakke. Man tænker bare, holy shit, mand, jeg slet ikke. Og man tænker, det er det dårligste tidspunkt at have en præsident som Donald Trump. Og jeg ved godt, altid har han muligvis været dårligt i forhold til at have en præsident som Donald Trump, i og med at han jo, må man sige, ikke opfylder så mange af sine løfter, lige i øjeblikket i hvert fald. 47:14 Det, at han jo har så dårlig kommunikation med andre verdensledere, er jo et problem i forhold til lige nu. Der skal vi jo stå sammen. Altså det her bliver jo sammenlignet af mange med kapløbet om at udvikle atombomben, Oppenheimers atombombe. Og dengang var det jo primært statsstyret, kan man sige. Altså det var jo et hemmeligt program, Manhattan Project. Nu er det jo privatiseret, og det er det, der skræmmer mig allermest. Og det er derfor... Altså det kombineret med den amerikanske mentalitet, fordi jeg så, at Hockingface-CEO'en, ham der altså er blevet hacket af åbne AI, men han har sagt, nej, nej, nej, vi skal skrue op. 47:56 Det er farligt at skrue ned, vi er nødt til at skrue op. Mark Zuckerberg har sagt det samme. Og det, der ligger lidt mellem linjerne, når de her folk taler, det er den her meget amerikanske tankegang, som vi kan overføre på deres våbenpolitik, Hvis de store har våben, hvis staten har våben, så skal vi satme også have våben. Og der kan man jo spørge sig selv, hvor godt går det med våben i jeres land? Det behøver vi nok ikke tale yderligere om. Det tror jeg, alle danskere har en klar og stærk mening om. Bliver AI bare det næste våben? Hvis de har det, så er vi også nødt til at have det. Vi stoler ikke på staten. 48:26 Det her må aldrig blive et statsstyret ting. Vi er alle sammen nødt til at udvikle vores egen AI for rent og sker overlevelse. Det er jo også et lidt skræmmende scenario. 48:37 Men jeg tror, det ene problem ligger et andet sted. Jeg tror, der er to store problemer for tech-virksomhederne i USA. Eller tre faktisk. Det første er intern konkurrence. Hvis OpenAI beslutter sig for at sætte tryk på, lad os bare kalde det sådan lidt overført betydning, stop eller pause knap. Jamen, hvis alle andre ikke gør det, så taber du terræn. Så det vil være sådan relativt dumt at gøre. Fordi det er jo et form for kapløb, som du også siger. Det næste problem er, at så går de så hen til politikerne i Washington og siger, jamen, I bliver nødt til at lave noget lovgivning. 49:09 Jamen, det gennemsnitlige medlem af senatet er 64 år gammel. Ja. Altså, de her mennesker forstår jo ikke kunstig intelligens, og hvis du har set nogle af de høringer, der har været, hvor de skal spørge, hvad ved jeg, Sam Altman, eller nogle af de der, om hvordan de her ting fungerer, det er jo sådan totalt håbløst. Politisk taler det her jo også i en større diskussion om datacenteret osv., som er pisseupopulære i befolkningen osv., fordi de kræver en masse energi osv. Men som der var en ekspert, der meget rigtigt sagde, problemet er jo, hvis politikerne laver lovgivning nu, så laver de lovgivning i forhold til, hvordan AI var for fem år siden. 49:42 Altså, så de kommer ikke til at kunne følge med. Og så er der det internationale perspektiv, som er, hvis du ikke kan få kineserne med på det her, så vil det være totalt håbløst. Og der har Trump jo ret, at USA får ikke nu ud af at regulere sig selv, hvis Kina ikke også vil reguleres. Fordi så taber du bare det kapløb, der er mellem de to. 49:58 Og der så vi jo en udtalelse for nylig her fra Kina. Jeg kan ikke lige huske, hvem det var, men det var et højtstående kinesisk... 50:06 Jeg tror, det var deres minister for statssikkerhed. Og han har jo affaret det totalt og sagde, at det her er sådan en hysteri og så videre. Nå, men vi kan bare sætte os ned og lave det. 50:13 Men han siger dog også i det klip, jeg har set, at det er klart... Hvor meget stoler man på oversættelsen? Helt klart, vi skal sætte os ned, og vi skal løse det her sammen. Men vi gider ikke høre på hysteri, og det tror jeg også, fordi man tit fra kinesis side føler, at man bliver gjort til skurken. Og det gør man jo også hele tiden. Ej, vi kan ikke skrue ned for vores, fordi så kommer de onde kineser og gør det meget værre end os. Det ligger jo hele tiden mellem linjerne, og det er det, man træt af, tror jeg, fra kinesis side. 50:38 problem. For jeg læste en analyse, som var meget interessant, når man ikke selv ved så meget om Kina, som er meget fint pointeret. Kina har jo et dobbelt problem her også. Fordi Kinas første problem er selvfølgelig, at hvis amerikanerne kommer foran i forhold til det her, og for langt foran, så er kineserne banger for, at de på et tidspunkt bruger deres kapacitet i forhold til at angribe Kina, eller destabilisere Kina. Men fordi så meget af Kinas især overvågning og styring med befolkningen, i et de facto diktatur jo sker via apropos kunstig intelligens osv., så de er jo også enormt bange for, at udviklingen løber løbsk, så de ikke selv kan kontrollere den internt i Kina, og dermed jo ender med at destabilisere deres eget regime. 51:17 Så som jeg forstår det, har Kina jo også en interesse i på en eller anden måde... 51:22 sætte nogle Heinz-pale op, men selvfølgelig kun, hvis amerikanerne er med på det, ikke? Og det er jo også derfor, jeg kan ikke engang huske, om det var Sam Altman, tror jeg, der sagde det, altså det her med, at hvis Trump og Xi, som i øvrigt har Trump-mødet lige om lidt, ikke? Jeg tror 24. september eller sådan noget. Hvis de sætter sig ned og laver noget regulering, ja, så er det jo lige for, at du kan give dem Nobels fredspris. 51:40 Ja. 51:41 i forhold til, hvad det her... Det kan være, at Trump, han skulle... Potentielt kan gøre, ikke? Og så igen, altså måske bare sådan lidt afslutningsvis, altså nogle af de eksempler, jeg bare har set, ikke? Der er for eksempel i Sverige, har du haft nogle forsøg, eksempelvis med vores screening i forhold til kraft, for eksempel. Der var AI altså 29% flere tilfælde. Ja. Der er vi jo tilbage til, men det vil vi jo gerne have. Ja. Altså meget gerne. 52:09 Og så er der jo hjulpet i decideret meget, meget farlige operationer. Hjerneoperationer for eksempel, hvor den mindste fejl kan betyde førlighed, eller man ender en persons liv. 52:22 Jo, eller der er en mand med ALS for eksempel, der nu kan kommunikere igennem en kunstig stemme og sådan nogle ting. Så der er jo nogle ting... 52:29 Godt at hente, altså uden tvivl. Men altså, det kan vi slet ikke nå nu jo, men der har jo været desværre også mange dårlige sager. Altså man kan sige, at Hockingface er sådan den største og nu også mest kendte sag. Men der er jo også, hvad hedder det, sager, hvor nogle af de her AIs har været, altså har sådan halvt om halvt hjernevasket brugere, opfordret til selvmord. Ja, præcis. 52:50 Har vi set, ikke? 53:04 Så vi har set mange grimme sager, måske ikke i forhold til, hvor mange, der bruger AI, så er det jo virkelig, trods alt, et meget lille problem, sådan rent, lige PT. Frygten er selvfølgelig, at det ændrer sig med tiden, og at den her pidum, som man jo kalder det, altså procent for verdens undergang, at den stiger eksponentielt. Jeg tænker også tilbage på ham, der hedder Nick Brostrøm, set som en af de mest førende intellektuelle i verden, også svensker fra Oxford University. 53:37 som har den her Voluble World-teori, hvor han netop siger, at egentlig har vi bare været heldige, at vi endnu ikke har opfundet et våben, som er nemt at reproducere for almindelige borgere. Atombomben kræver laboratorier og visse remedier for at kunne lave det her, som ingen almindelige mennesker nogensinde vil kunne komme i nærheden af. Våben er også svært, selvom vi selvfølgelig begynder at se 3D-printer og så videre, men det er svært at lave en ordentlig maskinepistol og så videre. 54:07 I øvrigt skal du jo sige, så folk, da man først opfandt Gatling Gun og maskinpistol osv., der sagde man jo, vi får aldrig brug for, og de er så mægtigt et våben, at vi aldrig får behov for at bruge dem. Det sagde man også om atombomben. Alligevel er alle de her ting jo blevet brugt, og også brugt bare som en trussel selvfølgelig. Men at hvis vi en dag får en teknologi, det han kalder en sort kugle, som alle kan producere, Så er det rigtig, rigtig, rigtig farligt for verden. Og som vi også var inde på i starten, så har Anthropic jo stoppet. 54:39 Jeg tror, det er fire forsøg fra brugere, som har prøvet at lave biologiske og kemiske våben. Og det er jo klart, det vil også blive en trussel, der vil ryge helt til tops. Selvfølgelig vil man også kunne overvåge på visse punkter bedre. Men hvis man overser en bruger, så kan det være virkelig, virkelig farligt faktisk. Tak for i dag, Mirko. Selv tak. 55:17 Radio 4, som du aldrig har hørt før.