Replik: För att lita på AI måste vi också förstå den

För att Sverige ska kunna dra större nytta av AI-tekniken måste fokus ligga på både användning och kvalitet, enligt Josefin Rosén, expert på tillförlitlig och etisk AI-användning vid SAS Institute. Rosén menar att människor behöver förstå när de kan lita på AI, när de bör ifrågasätta den och vem som bär ansvaret vid fel.

Hon understryker att även om cybersäkerhet är grundläggande, kan ett AI-system fortfarande ge felaktiga eller olämpliga svar. Därför är det viktigt att organisationer stärker medarbetarnas AI-kompetens, så att de kan bedöma resultatens rimlighet och förstå konsekvenserna av felaktiga svar. Medarbetare behöver tydliga ramar för AI-användning och förstå när mänsklig granskning är nödvändig.Hugins skriver