In healthcare, artificial intelligence (AI) may save clinicians time, automate routine activities, and support better decisions, but empathy, reassurance, trust, conversation, and human connection remain essential parts of care.
This is where digital humanism matters! Digital humanism argues that technology should be deliberately shaped around human values, rights, needs, and societal goals.

Shweta and I had the chance to explore this topic with other researchers in a research commentary on digital humanism in requirements engineering (RE) for healthcare solutions in the age of AI¹. In the paper, we argue that RE can provide an important bridge between broad principles such as fairness, autonomy, privacy, explainability, and human oversight and the concrete requirements used to design healthcare systems. We also warn that RE itself can unintentionally contribute to harm when requirements reflect only the perspectives of easily accessible stakeholders while excluding patients, caregivers, marginalised communities, or other affected groups.

This perspective connects naturally with human-computer interaction (HCI). From an HCI perspective, human values must also be reflected in interaction. Human oversight is meaningful only if clinicians can understand, question, or override AI recommendations. Explainability matters only if explanations are understandable and useful. Patient autonomy depends on interfaces that support meaningful choice and accommodate different abilities, cultures, levels of digital literacy, and contexts of use.

RE can make human values explicit as requirements, while HCI can examine how those values are experienced and supported through interaction.

In the paper, we identified directions for future RE research, including: (i) examining the potential “dark side” of RE and how RE practices themselves may unintentionally reinforce exclusion or harm; (ii) educating future RE researchers and practitioners in digital humanism; (iii) empowering individuals and communities, and fostering social justice and trust; (iv) broadening interdisciplinarity throughout the RE process; and (v) bridging the RE-AI collaboration gap when building systems. These directions are equally relevant to HCI.

RE and HCI can help ensure that progress in AI-enabled healthcare serves people, rather than requiring people to adapt to technology.

¹Ouhbi, S., Levy, M., Mondragon Campos, O.A., Lessard, L., Taveter, K., Fiorini, L., Premanandan, S., Fricker, S.A. and Amyot, D., 2026. Digital humanism in requirements engineering for healthcare solutions in the age of AI. Requirements Engineering, 31(2), p.11. DOI: https://doi.org/10.1007/s00766-026-00466-9

We are continuing to introduce our new PhD students who have joined us this autumn, as part of the launch of LärA-AI, a new research school exploring how generative artificial intelligence is affecting teachers’ work environment and professional role.

Welcome to the HTO group, Hannah! Can you briefly introduce yourself and your background?

Before starting this PhD, I studied Cognitive Science at the University of Tübingen, and continued with a master’s in Human-Computer Interaction (HCI) at Uppsala University. In both fields, I am especially interested in understanding us humans – how we and our cognition function, how we interact with each other and with technology, and how we can shape technology in a way that supports our wellbeing. Besides studying, I was very involved in our master program’s student association CHIA (Computer-Human Interaction Association) because it is very close to my heart to support students during and outside of their studies and create a safe space where they can connect with each other, get inspired, and feel prepared for what comes after their graduation.

What made you apply to the graduate school?

I wanted to pursue a PhD because I am by nature a very curious person who loves to learn new things and wants to understand the reasons behind phenomena and behaviors. What I like about research is the mixture between creativity, analytics and social interactions and it feels meaningful to be able to contribute to a bigger understanding (and shaping) of our world. This particular graduate school caught my interest because it combines different fields that I am interested in (e.g. HCI, education, work environment). Additionally, I think it is a great setting to work together with other PhD students looking at the same topic from different perspectives.

What is your focus at the graduate school?

My focus lays on how AI affects the work environment and wellbeing of teachers in their daily practice: How and why do they use certain AI tools for e.g. planning of lessons and assessment of students? Where can AI be a relief, but how might it add additional stress factors? Since I am intrigued by human cognition, I would also love to look at how teachers’ cognitive functions might be affected or changing.

What do you hope your research will contribute to?

I would love for my research to produce knowledge that can be practically translated into everyday life – nothing too theoretical but something that positively contributes to teachers’ wellbeing directly. I want to help teachers understand their situation better and to equip them with new perspectives, practical tips and the feeling of not being left alone in this process of adapting to new technology.

When you’re not working, what do you like to do in your free time?

I really enjoy being outdoors and active. I love going for walks/hikes, exploring new surroundings, going swimming, or dancing Lindy Hop. I enjoy trying out new things, love languages, singing in a choir, and crafting.

Det nordiska forskningsprojektet AI-PROCARE är igång och det är dags för en kort rapport om läget.

Bakgrunden till projektet handlar om AI:s intåg i hälso- och sjukvården, vilket påverkar kliniska beslut, administrativa arbetsuppgifter och hur arbetet organiseras. AI lyfts ofta fram som ett sätt att effektivisera arbetet och minska manuella arbetsuppgifter, men samtidigt vet vi att det också kan skapa nya former av stress och minska medarbetares handlingsutrymme. Därför får själva upphandlingen av tekniken stor betydelse för vilka konsekvenser den får i det dagliga arbetet. Det utgör en särskild utmaning för den offentligt finansierade sjukvården, då offentlig upphandling är en hårt reglerad procedur med långa ledtider, vilket kan vara svårt att hantera när ny och snabbt framväxande teknik ska köpas in.

Därför syftar projektet till att belysa hur arbetsmiljöfrågor kan få en tydligare plats när IT-system med AI-teknik upphandlas. Vi är ett stort, nordiskt forskarteam från Island, Danmark, Finland och Sverige som genomför datainsamling parallellt i de fyra länderna, med målet att identifiera både gemensamma nämnare och landsunika förutsättningar.

I det första steget undersöker vi hur arbetsmiljöfrågor hanteras i upphandlingsprocessen genom att undersöka attityder, kunskaper och rutiner hos dem som på olika sätt deltar i sådana upphandlingar; upphandlare, vårdpersonal, IT-specialister och chefer. Här har vi tittat på en rad olika system där det finns skilda utmaningar i att ta hänsyn till medarbetarnas arbetsmiljö.  Ett exempel är digital trygghetsteknik på äldreboenden (kameror som larmar), som bland annat syftar till att minska fall och skapa en lugnare miljö för både de äldre och personalen. Ett annat exempel är AI-stödd journalföring; en teknik som automatiskt fångar och sammanfattar samtal mellan patient och vårdpersonal till ett utkast i patientens journal. Vi har även intresserat oss för en form av beslutsstöd som assisterar läkare att bedöma röntgenbilder vid misstänkt stroke.

Just nu är vi i slutfasen av den första datainsamlingen, men det finns fortfarande utrymme för fler intervjuer, så om du känner till någon avslutad upphandling som kan vara relevant tar vi gärna emot tips.

I nästa steg ska vi göra fokuserade casestudier på ett fåtal utvalda upphandlingar, där vi ska analysera framgångsfaktorer för hur man kan inkludera arbetsmiljöfrågor i upphandlingen. Avslutningsvis kommer vi använda den nyvunna kunskapen till att fram och utvärdera praktiska riktlinjer för en ansvarsfull upphandling av AI-system.

Det är roligt att många är intresserade av vad vi gör, vi återkommer med en ny rapport längre fram!

Involverade forskare i svenska delen av projektet är Åsa Cajander, Maral Babapour Chafi och Viktoria Rubin

Vi är glada att välkomna Martin Hansson som doktorand i HTO och i forskarskolan LärA-AI!

LärA-AI är en ny forskarskola som undersöker hur generativ artificiell intelligens (GenAI) påverkar lärares arbetsmiljö och yrkesroll, ett samarbete mellan Uppsala universitet, Högskolan i Gävle och Kungliga tekniska högskolan i Stockholm. Nio doktorander började för tre veckor sedan i forskarskolan, varav tre ingår i HTO. Vi ställde några frågor till de nya doktoranderna för att lära känna dem och höra mer om deras arbete. Först ut är Martin:

Kan du kort presentera dig själv och din bakgrund?

Jag har en bakgrund inom både människa-datorinteraktion och artificiell intelligens. Under mina studier har jag jobbat som amanuens bland annat som forskningsassistent inom stora språkmodeller, lärarassistent samt engagerat mig i studentkåren på både lokal och nationell nivå. Jag är otroligt nyfiken och älskar att lära mig nya saker (och att hjälpa andra att lära sig!). På senare tid har jag varit väldigt fascinerad över hur interaktionen med AI skiljer sig från och påminner om många av de traditionella interaktioner vi är vana vid och hur det påverkar våra förväntningar på tekniken.

Vad fick dig att söka till forskarskolan?

Jag tycker utbildning är ett väldigt spännande område att studera just för att den är så mångfacetterad. Det finns så många olika tankar kring vem utbildningen är till för, hur den ska utformas, vad som är bra eller dålig utbildning, och vilka värderingar den representerar. Nu när det också finns ett stort intresse av att inkludera AI inom utbildningen så finns det många idéer om hur det bör användas och på vilket sätt. Här finns både möjligheter och risker som är viktiga att fundera på och utvärdera noggrant.

Vad är ditt fokus inom forskarskolan?

Mitt forskningsprojekt handlar om etiska dilemman och lärares professionella praktik när AI introduceras i högre utbildning. Det finns många förväntningar på lärare idag när fler använder AI inom lärandet, vilket kan påverka hur de ser på sin roll och agerar i relation till studenter. Till exempel anger ofta riktlinjer att lärare själva är ansvariga för att navigera vad som är acceptabel AI-användning inom sin egen utbildning. Samtidigt är studenter ofta negativt inställda till att lärare inkluderar AI i undervisningen, och lärare uttrycker å sin sida frustration kring hur deras egna studenter använder AI. Jag vill undersöka vilka värdekonflikter som kan uppstå för lärare och vad etisk användning av AI betyder för en lärare.

Vad hoppas du att din forskning bidrar till?

Jag hoppas att den skapar medvetenhet kring vilka aspekter som påverkar lärare i deras yrkesliv under den förändring vi står inför. Jag tror att vi idag i hög grad är i ett utforskande skede av AI där vi försöker hitta användningsområden. I denna utforskning kommer vi märka var AI kan användas, och var det kanske inte passar. Det utforskandet lär förmodligen vara obekvämt och tvinga oss att reflektera över vad vi tycker är viktigt med läraryrket. Om min forskning kan bidra till att underlätta den navigeringen genom att synliggöra var det klämmer, tror jag att vi har kommit en lång väg.

När du inte jobbar, vad tycker du om att göra på din fritid?

Jag gillar att läsa, laga mat, och lyssna på musik (gärna i kombination). Musikaler ligger mig också speciellt varmt om hjärtat och jag försöker se så många uppsättningar jag kan. Eftersom forskningen innebär så mycket läsande känns det nästan lite som att jag fuskar eftersom jag får göra det som en del av mitt yrke de kommande fem åren!

Vi ser fram emot att följa Martins arbete framöver och de perspektiv han kommer bidra med inom LärA-AI.

Vi är glada att välkomna Alexandra Sandell som forskningsintern hos HTO nu under hösten. Alexandra har en bakgrund inom människa-datorinteraktion och psykologi. I människa-datorninteraktionsprogrammet på Institutionen för informatik och media finns det möjlighet till en tio veckors praktik i en forskargrupp och vi är väldigt glada att Alexandra ville testa på att vara hos oss.

Alexandras projekt handlar om cyberaggressioner (t.ex. trakasserier, hot och doxxning) mot vårdpersonal via sociala medier och i andra digitala forum. Hon kommer undersöka detta via webbskrapning och NLP-metoder.

I ett nytt avsnitt av UppTalk deltar Åsa Cajander från HTO och en av föreståndarna för forskarskolan LärA AI. Samtalet handlar om hur AI påverkar skolan, läraryrket och lärares arbetsmiljö.

I intervjun diskuterar Åsa Cajander och Mats Daniels hur generativ AI kan förändra både undervisningens innehåll och organisering. AI kan skapa nya möjligheter för lärare, till exempel genom stöd i planering, återkoppling och administration. Samtidigt väcker tekniken viktiga frågor om ansvar, kompetens, etik och arbetsbelastning.

Samtalet knyter an till forskarskolan LärA AI, Läraryrkets arbetsmiljö i en AI transformerad skola. Forskarskolan undersöker hur AI förändrar lärares arbete och vilka nya kunskaper som behövs för att förstå och utveckla en hållbar digital arbetsmiljö i skolan.

Inspelningen är på svenska och finns här:
https://www.youtube.com/watch?v=H0nXXbSIwho