Unconstraining Metacognition in Human-AI interaction: MET-AI

Tekoälyjärjestelmät voivat parantaa merkittävästi ihmisen kognitiivisia kykyjä, mutta niiden tehoa rajoittaa usein puutteellinen metakognitiotuki - kyky suunnitella, seurata ja säätää omaa ajattelua. Tutkimukseni osoittaa, että vaikka tekoälytyökalut voivat parantaa suorituskykyä, ne usein heikentävät käyttäjien kykyä arvioida omia päätöksiään, johtaen liialliseen itsevarmuuteen ja vähäisempään toimijuuteen. MET-AI-projektin tavoitteena on selvittää, miten metakognitio voidaan optimoida ihmisen ja tekoälyn vuorovaikutuksessa. Kokeellisten tutkimusten, laskennallisen mallinnuksen ja suunnitteluinterventioiden avulla tutkin, miten käyttäjät seuraavat ja ohjaavat ajatteluaan tekoälyn kanssa. Pilottitutkimukset osoittavat, että tekoäly voi synnyttää vinoumia metakognitiivisissa prosesseissa. Näiden tulosten pohjalta kehitämme teoreettisia malleja ja käytännön suuntaviivoja sopeutuville tekoälykäyttöliittymille, jotka tukevat käyttäjien kriittistä ajattelua ja optimaalista suoriutumista.