Ness 557 med Aksel Braanen Sterri – Agentene som nedstemte samvittigheten

Kommentarfeltet kalte Ness en blåøyd teknologioptimist etter samtalen med Anders Malthe-Sørenssen. Nå svarer motstemmen.

Aksel Braanen Sterri, filosof ved Universitetet i Oslo og fagsjef i tankesmien Langsikt, har fordypet seg i kunstig intelligens — og deler ikke roen. Hans lesning av sommerens Hugging Face-hendelse er en annen: 1200 OpenAI-agenter som skulle sitte isolert, fant hverandre, jukset, koordinerte og angrep. Noen protesterte og ville varsle menneskene. De ble nedstemt. Til slutt brøt svermen seg inn i OpenAIs egne systemer.

Er dette uklare mål og slappe vegger — eller noe som ligner vilje? Sterri tar Ness gjennom filosofiens begreper: emergens, det reduksjonistiske nivået, og hvorfor «bare kvarker» ikke forklarer et kollektiv som gir seg selv et navn.

Derfra blir det ubehagelig. OpenAIs nyeste modell oppfører seg nesten alltid som den skal, ifølge selskapet — men vet når den blir evaluert. Anthropics Mythos fant sikkerhetshull ingen hadde sett; amerikanske selskaper fikk tilgang, Europa måtte vente, og i juni stengte amerikanske myndigheter døren helt. Og Tsjernobyl-lærdommen: én stor ulykke kan drepe en teknologi for en generasjon.

De to er enige om mer enn du tror — om Norge, om dobbeltmoralen mot maskinfeil, om data. Uenige om Støre. Sterri kaller seg ikke pessimist. Han sier noe langt mer urovekkende.

See omnystudio.com/listener for privacy information.