AI – för- och nackdelar

Texten utgår från detta dokument som är från EU.
Och egna tankar.

Fördelar med AI
Förbättra sjukvården genom (röntgen diagnostik, ha översikt över oöverskådliga mängder data som människan inte kan hantera på egen hand, screening av suicidalitet kan vara ett framtida område).

Göra bilar och andra transportsystem säkrare(självkörande bilar och bussar, övervakning i realtid)

Skapa skräddarsydda, billigare och mer hållbara produkter och tjänster (robotar utför, monotona/farliga arbetsuppgifter). Underlätta tillgången till information, utbildning och praktik (infotillgång finns redan idag). Det finns mer, men tas inte upp här.

Risker med AI

Under- och överanvändning av AI

Överanvändning
Att man använder AI på områden där vinsten är liten eller ingen, som vid att förklara komplexa frågor för allmänheten, då de saknar en känslomässigt fungerande tolkningskomponent .

Underanvändning
Missade möjligheter kan innebära dåligt genomförande av stora program. Man förlorar konkurrensfördelar gentemot andra regioner, ekonomisk stagnation och färre möjligheter för invånarna, här nämns EU:s gröna giv.

AI riskerar användas för lite eftersom många inte litar på tekniken, investeringarna är låga och marknaden är splittrad. Detta handlar om etiska och moraliska frågor.

Hot med AI
Lite lustigt här, man skriver hot från AI i sin text, som om den har en person :)
Jag använder en annan rubrik.

Hoten från AI mot grundläggande rättigheter och demokrati
Resultaten som AI producerar beror på hur det är utformat och vilken information det använder.

”Mathwashing”
Det är viktigt att veta vilka data/fakta en algoritm matats med. Ras, religion, etnicitet etc är viktigt om det är med eller inte. Hur man utformar och vad som är med kan påverka.

Hur vet vi att fakta är fakta och representerar den mest objektiva verklighet som går att beskriva statistiskt i en aktuell fråga? Både utformningen och dess data kan vara medvetet eller omedvetet obalanserat.

Om det inte görs ordentligt kan AI leda till beslut som påverkas av information om etnicitet, kön och ålder vid rekryteringar och avskedningar, vid låneansökningar, eller till och med i brottmål.

Integritet och dataskydd
Oönskad information skapas som har satts samman av AI från olika delar där ingen människa har ett helikopterperspektiv.

Filterbubblor
Information finns bara inom vissa grupper.

Man skapar specifik information i syfte att påverka (deep-fakes bl a)

Ovanstående är enkla exempel på polariseringstekniker som man behöver vara vaksam på och utöva källkritik helt enkelt.

Kontrollfunktionen
AI verkar ha problem på områden som kräver mänsklig bedömningskompetens. Det är som att den försöker lära sig cykla, men det vinglar betänkligt om den ska sköta saker på egen hand utan en tillagd mänsklig bedöming. Den behöver stödhjul. Problemet upp står när människan lite mer på maskinen än sina omdömen. Om nu omdömen är en värdemätare som man vill ha med som beslutsparameter.

Om människan släpper ifrån sig ansvar är det samma grundläggande problem som med religion - vem ansvarar för gud?

Paradoxen
Vi kan lita på AI när någon maskin bedömer en röntgenbild och att en människa tittat på den. Vi blir kränkta om en AI bedömer vår rätt till bidrag även om en människa tittat på det också. AI i sig bryr sig inte om vilket, den gör statistik via algoritmer som människor matat in och säger att den representerar en statistisk verklighet, en verklighet som är möjlig, men som också kan vara annorlunda. Det är det ”annorlunda” som bor i människan, som gör att man blir förbannad över att man blir nekad bidrag.

Vad gäller kunskapsbiten har jag skrivit om den tidigare, men det jag vill lyfta är just öppenhet om vad det är för text och hur den framställts, då har mottagaren bättre möjlighet att källkolla.

Fiktiv litteratur och liknande. Det är samma här med öppenhet.

Sedan kan jag tänka mig att någon en dag (om det inte redan är gjort) bygger upp en digital heteronym och ber AI skriva en bok om denne person. Någon form av anpassning till digitaliseringen kommer krävas.
- - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - 

Del 1

Extern nedladdning 1/2  PDF google drive