Generativ AI i HCI – verktyg, partner eller massbedragare?

Generativ AI har på kort tid gått från teknikdemo till vardagsverktyg. Vi skriver med den. Vi designar med den. Vi undervisar med den. Vi forskar med den.

Men frågan är: Förstår vi egentligen vad vi har släppt in i våra digitala ekosystem?

I vår genomgång av forskningsfältet human–computer interaction (HCI) identifierade vi 37 vetenskapliga studier som behandlar generativ AI FULLTEXT01. Vi analyserade dem genom ett klassiskt HCI-begrepp: affordances och constraints – alltså vad tekniken möjliggör, och vad den samtidigt begränsar.

Resultatet? En betydligt mer komplex bild än den polariserade debatten ofta ger.

Möjligheter och risker – samtidigt

Generativ AI förbättrar algoritmer, stödjer kreativt samarbete och kan fungera som ett pedagogiskt stöd i utbildning. Den börjar röra sig från att vara ett verktyg till att bli en slags digital samarbetspartner.

Men parallellt återkommer tre stora problem i forskningen:

Sanning. AI hallucinerar och kan producera övertygande felaktigheter. I värsta fall desinformation och deepfakes.

Bias. Modellerna speglar snedvridningar i träningsdata och fungerar ofta som svarta lådor.

Ansvar. Maskiner kan inte hållas moraliskt eller juridiskt ansvariga – men deras output påverkar människor.

Dessutom förändras arbetsmarknaden. AI-kompetens blir en konkurrensfördel, samtidigt som arbetsroller omformas.

Det viktigaste fyndet: Allt beror på kontext

Vår analys visar något centralt:

Affordances och constraints är inte statiska. De överlappar. De växlar beroende på kontext.

AI i utbildning kan vara ett kraftfullt stöd, eller en källa till fusk och felaktigheter.
AI i arbetslivet kan vara ett kreativt komplement, eller en destabiliserande kraft.

Kort sagt: samma funktion kan vara en möjlighet i ett sammanhang och en risk i ett annat.

Det betyder att frågan inte är om generativ AI är bra eller dålig.

Frågan är hur vi designar, implementerar och reglerar den.



Läs mer i den här publikationen skriven av Niklas Humble och Åsa Cajander
Humble, N., & Cajander, Å. (2025, January). Rethinking Generative AI in Human-Computer Interaction: Review of Affordances, Constraints, and Implications. In Proceedings of the 2nd International Conference on Education Research. Academic Conferences and publishing limited.

https://www.diva-portal.org/smash/get/diva2:2010656/FULLTEXT01.pdf