AI-demokraten | Maja Fjaestad, docent i teknopolitik
Lyssna via
1.54 Här föddes Majas intresse för AI.
”Jag identifierar ju mig som teknikforskare, fysiker i botten och så har jag studerat STS – Science, Tecnohology and Society, och det finns nästan inget område där det är så tydligt att man integrerar samhälle, teknik och värderingar, som AI”.
2.38 Kommer vi att läsa om AI-teknikskiftet i historieböckerna?
”Det korta svaret är ja – men hur? Inom teknikstudier skiljer man mellan uppfinning och innovation, där innovation är en teknik som integreras i samhället, förändrar samhället… och är AI det? Jag vet inte riktigt vilka sociala konsekvenser AI kommer att få.”
4.30 Maja om uttrycket ”att utveckla teknik är att utöva makt”.
”Det som påverkar oss allra mest är ju vår omgivande miljö, tekniken vi använder – vårt sätt att resa och kommunicera. Och ändå är det, utöver den konsumentmakt vi har, delar av samhället som vi ibland kan uppleva ganska lite inflytande över. Och här tycker jag att det finns ett maktunderskott faktiskt, eller ett inflytandeunderskott.”
8.03 Så kan AI, om den utvecklas rätt, bidra till bättre demokrati.
”Ofta är ju exklusiv kunskap en maktbas, men om man då har en AI som kan sammanfatta stora texter – vilken enorm tillgång till information man kan få. Jag som är en lite lat teknisk fysiker gillar ju att AI kan skriva källkod. Man behöver faktiskt inte sitta och kunna programmeringsspråk för att kunna programmera, och programmering har ju verkligen varit en källa till makt under de senaste decennierna.”
8.51 Så kan AI hota demokratin.
”Ett exempel, som min kollega Charlotta Kronblad skrivit om, är ju hur barn i Göteborg blev placerade av en skolalgoritm som inte skilde på fågelvägen och gångvägen. Så väldigt många barn fick skolplaceringar som var helt uppåt väggarna – och så kunde man inte få ut skälen till det, man kunde inte få ut algoritmen. Där tänker jag att det finns en risk att man tappar förtroendet för offentliga aktörer.”
10.21 Så tycker Maja att politiken har hanterat AI-teknikutvecklingen så här långt.
”Det vore en lätt utväg för mig att sitta och säga att det borde vara fler ingenjörer i politiken, fast poängen är att man ska kunna fatta demokratiska beslut om teknik utan att kunna programmera. Men det finns en valhänthet i politiken kring teknikpolitiken, och en försiktighet. Man kanske till och med kan kalla det för rädsla.”
11.19 Därför går det trögt för politiken att hantera AI.
”Det förvånar mig, för är det någonting som 1900-talet handlat om så är det ju relationer mellan arbete och kapital, eller relationer mellan stora företag och arbetstagaren – det här brukar vi ju vara bra på att hantera, alltså ekonomisk makt! Och internet handlar också väldigt mycket om ekonomisk makt och ett antal stora företag, så det är svårt att förstå att man inte kan applicera ganska sedvanliga politiska verktyg på det som händer”.
13.15 Om EU:s AI-reglering.
”Jag ser att den får en hel del kritik och man kan tänka att det är ett omöjligt projekt men alternativet är också värre – att inte ha ett försök till reglering. Det som jag tycker är viktigt är någon typ av opartisk revision av algoritmer och det kanske inte finns med i den utsträckning man hade kunnat hoppas på.”
14.16 Om den svenska utredningen om sekundäranvändning av hälsodata.
”Det är en av de grejerna jag är mest stolt över att jag mäktade med… Alltså hur kan vi tillgängliggöra mer data för forskning utan att någonsin faktiskt kompromissa med integritet?”
17.15 Inom dessa områden kommer vi ha mest nytta av AI de närmaste åren.
”Jag tycker också att det vore jättespännande att fortsätta tänka på hur AI kan användas inom hälso- och sjukvården, och ett sådant klassiskt, komplext ämne tycker jag är AMR, det vi kallar för antibiotikaresistens, som är en kombination av sociala och medicinska faktorer. Det är ju typ det vi kommer att dö av – resistenta bakterier, så jag tycker att det vore underbart att få använda AI på i AMR-frågorna.”
18.45 Maja Fjaestads Fem snabba favoriter.
20.32 Så står sig Sverige internationellt i AI-frågor i dag.
”Vi behöver se, tycker jag, att vi ligger lite risigt till inom en del områden. Det har lite olika skäl: Vi var jättetidiga. Vi hade hem-PC-reformen, mycket gick bra, men det är dags att göra det igen. Det kan nästan bli som att vi har en teknikskuld för att vi var lite tidiga. Då behöver man en ny investering.”
22.25 Vad ligger bakom eftersläpningen?
”Det regulatoriska skulle jag absolut säga. Det finns många fördelar med regioner och självstyrande regioner och ett decentraliserat hälsosystem också, jag tror inte alltid på centralstyrning, men just i datafrågan har det inte alltid talat till vår fördel. Jag tänker också att vi har varit lite underinvesterade på många nivåer.”
24.01 Maja blickar tillbaka på en annan tid, då staten investerade i teknik.
”Jag som kan vara historiker ibland kan bli lite nostalgisk. Jag tänker ju på de här stora samarbetena man hade på 50- och 60-talet mellan Telia och Ericsson och mellan Electrolux och ABB, där det fanns en väldigt tydlig och långsiktig statlig finansiering – att faktiskt våga ha en stark statlig finansiering, att våga använda de här stora duktiga företagen vi har och sen ta med det ut på en global marknad.”
25.00 Detta ska vi absolut inte använda AI till.
”Jag tycker dels i de här frågorna som jag tittar på: algoritmer i offentlig sektor. Om vi inte har en vettig reglering så att medborgaren kan få ut grunden för de beslut som medborgaren utsätts för – ja men då kanske kommunen behöver pausa användningen av den algoritmen tills man fått det på plats. I de stora områdena, då diskuterar vi ju de här otroligt invasiva teknikerna som ansiktsigenkänning, massförstörelsevapen, och det här är ju applikationer av AI som är oerhört skrämmande.”
26.19 Om förslaget att pausa den mest avancerade AI-utvecklingen i sex månader.
”Risken tycker jag är att man exotifierar AI lite grann – att man får det att låta som att det är någonting som ligger långt i framtiden, med mördardrönare och sånt där. Men det jag vill ha är ju reglering av de algoritmer som hanterar uppgifter i våra kommuner, byggnormer eller liknande, och de är redan på plats. Där hjälper ingen AI paus. Jag tänker också att man har en positiv syn på politik om man tänker att man kan utveckla världens bästa lagstiftning på sex månader.”
27.49 Är det ens möjligt, med tanke på geopolitiska läget, att enas om reglering av AI?
”Jag tänker ofta ändå på icke-spridningsavtalet från 1968, då vi bestämde oss för att inte gå vidare med kärnvapen. Det är väl det mest lika, eller reglering av giftvapen eller andra typer av massförstörelsevapen – vi har faktiskt gjort det en gång. … jag tror att man kan känna lite tillförsikt i att vi har reglerat svåra frågor på global nivå förut, och man måste tro på att människan äger tekniken.”
28.37 Maja rekommenderar en gäst till kommande poddar.
29.06 Så följer du Maja Fjaestads kommande boksläpp och framfart.
