Tähän mennessä deepfake-teknologiaa, eli tekoälyä hyödyntävää, ihmistä muistuttavia digitaalisia hahmoja luovaa syväväärennösteknologiaa, koskevat tutkimuksemme ovat osoittaneet joidenkin ihmisten olevan hyvin herkkiä aistimaan syväväärennöksissä olevia puutteita ja epäjohdonmukaisuuksia. Deepfake-hahmojen puutteet ja epäjohdonmukaisuudet voivat vähentää deepfake-hahmon uskottavuutta, kun taas luonnolliseksi koetut deepfake-hahmot voivat parantaa käyttäjäkokemusta eri sovelluksissa.
Viimeisimmissä tutkimuksissamme käyttäjille näytettiin videoita, joissa joko deepfake-hahmo tai ihmishahmo esitti samaa sisältöä. Videon nähtyään käyttäjät suorittivat yksinkertaisia suunnittelutehtäviä. Aineistonkeruussa hyödynsimme think-aloud -menetelmää, jossa käyttäjä puhuu omia ajatuksiaan tehtävästä samalla, kun hän suorittaa tehtävää. Aineistoa keräsimme samassa tutkimustilanteessa myös tutkijoiden omilla havainnoilla sekä kyselyillä. Viimeisimpien tutkimusten keskeisimmät löydökset ovat olleet:
- Virheiden havaitseminen
- Käyttäjät voivat havaita deepfake-hahmoissa useita virheitä, kuten epäluonnolliset silmät, epäluonnollinen ääni ja ihmiselle epätyypilliset kehon liikkeet. Käyttäjät havaitsivat herkästi myös suun ja korvien luonnottomia liikkeitä.
- Vaikutukset käyttäjäkokemukseen
- Käyttäjien havaitsemat virheet vähensivät deepfake-hahmoja kohtaan koettua uskottavuutta, inhimillisyyttä ja emotionaalista aitoutta. Deepfake-hahmon havaitseminen vaikutti negatiivisesti käyttäjien luottamukseen ja empatiaan deepfake-hahmoja kohtaan.
- Annetun tehtävän suorittaminen
- Deepfakeissa havaitut virheet häiritsivät käyttäjien keskittymistä videota katsottaessa ja vaikeuttivat yksinkertaisen suunnittelutehtävän suorittamista. Käyttäjät, jotka havaitsivat enemmän virheitä, suoriutuivat tehtävästä virheitä havaitsemattomia käyttäjiä hitaammin.
Deepfake-teknologialla on edelleen potentiaalia parantaa käyttäjäkokemusta, mutta nykyiset tekniset puutteet heikentävät merkittävästi deepfake-hahmojen uskottavuutta ja käyttökelpoisuutta. Organisaatioiden, jotka haluavat hyödyntää deepfake-hahmoja, on ensin ratkaistava teknologian tuottamat haasteet ja rajoitteet. Tulevaisuudessa yksi potentiaalisimmista deepfake-teknologian kehityssuunnista on keskittyä parantamaan deepfake-hahmojen inhimillisyyttä ja vähentämään virheitä, jotta teknologian täysi potentiaali voidaan saavuttaa ja deepfake-teknologian käytettävyys paranee.
FM, KTM Ilkka Kaate
Tohtorikoulutettava, Turun yliopisto