SymmGuard – Defence Suite for Adversarial Machine Learning

SymmGuard hyödyntää symmetriaa parantaakseen tekoälyn toimintavarmuutta. Tekoälyn alati laajentuva hyödyntäminen kriittisillä aloilla, tiukentuvat säännökset ja kasvavat tietoturvahyökkäysten kustannukset tekevät toimintavarmasta tekoälystä välttämättömän. Käytämme symmetriaa, koska se on luonnossa esiintyvä yleinen ominaisuus, joka jää usein huomiotta. Tekoäly ei myöskään usein kykene käsittelemään symmetriaa oikein. Tavoitteenamme on käyttää julkisia tietoaineistoja ja asiakastietoja, tutkimusta tehdään sekä itsenäisesti, että yhteistyössä pilottiasiakkaiden kanssa. Pyrimme vaikuttamaan konkreettisesti toimintavarman tekoälyn laajaan käyttöönottoon eri aloilla. Tutkimuksen osalta tavoitteenamme on notsaa symmetria tekoälytutkimusyhteisön tietoisuuteen, tärkeänä ohjaavana periaatteena toimintavarman tekoälyratkaisujen suunnittelussa ja soveltamisessa. Haluamme luoda yksinkertaisen ja elegantin ratkaisupaketin, jota voidaan soveltaa olemassa oleviin ja tulevaisuuden tekoälysovelluksiin niiden toimintavarmuuden ja turvallisuuden parantamiseksi. https://arxiv.org/pdf/2210.04087.pdf https://arxiv.org/pdf/2308.05575.pdf