Innebär AI en existentiell risk?

AI utvecklas i en rasande takt. I det dagliga flödet av nya möjligheter, modeller och tillämpningar hörs samtidigt röster som varnar för riskerna. En av de mer svindlande är att en framtida superintelligent AI skulle kunna utvecklas på ett sätt som vi människor inte längre kan kontrollera och i värsta fall innebära en existentiell risk för mänskligheten.

AI-Workshop | Powered by Brivalo

AI-Workshop den 4 november

I november bjöd vi in till en workshop där vi utforskade frågan tillsammans. Inte för att slå fast ett svar, utan för att förstå resonemangen, vrida och vända på perspektiven och prata om ett ämne som är både komplext och svårt att överblicka. Vi tror dessutom att svåra frågor mår bra av att diskuteras under trivsamma former.

Vi började med en introduktion till vad superintelligens faktiskt innebär och varför frågan om existentiell risk diskuteras.

Därefter varvade vi presentationer med övningar, samtal och gemensamma reflektioner. Vi tittade på möjliga framtidsscenarier, argumenten bakom varningarna och vilka frågor utvecklingen ställer oss inför.

Workshopen var öppen för alla – både medarbetare inom TPG och kunder, underkonsulter, tidigare deltagare och andra nyfikna. Under kvällen bjöd vi på något att äta och dricka.

Tips på fördjupning

1. Lyssna på Max Tegmarks Sommar i P1 från 2023.
Där resonerar han bland annat kring AI-utvecklingen, superintelligens och de risker han menar att vi behöver börja ta på större allvar.

2. Läs Plan A i det interaktiva framtidsscenariot AI 2040.
Det är ingen snabbläsning – räkna med upp till två timmar – men det ger en konkret och sammanhängande bild av hur de kommande åren skulle kunna utvecklas och ger oss en gemensam referensram inför diskussionerna.

Och om du är riktigt, riktigt, riktigt nördig kan du även läsa fördjupningen The Insider's Perspective, som länkas i slutet.



Kvällens workshopledare var

Patrik Jonsson

Patrik är AI Service Lead på specialistbolaget Brivalo. Han har nästan 40 års erfarenhet av mjukvaru- och verksamhetsutveckling i Sverige och USA. Hans styrka ligger i att se sambanden mellan teknik, människor och verksamhet – och omsätta dem i lösningar som fungerar.

Han arbetar med AI, agila metoder, utvecklingsprocesser och förändringsledning, alltid med konkret verksamhetsnytta i fokus. Genom åren har han utbildat och coachat organisationer som Handelsbanken, Ericsson, Telia, SJ, Santander och Apoteket.

Patrik är också medförfattare till Software Reuse: Architecture, Process and Organization for Business Success.


Kontakta mig om du vill veta mer om AI-workshopen

Föregående
Föregående

En arkitekt som har svårt att låta bli att förändra

Nästa
Nästa

Seven Patterns of AI