Psykoser inom artificiell intelligens

Psykoserna inom artificiell intelligens beskriver p ett lekfullt s tt en rad funktionsst rningar och of ruts gbara beteenden som kan uppst i AI-system. Dessa fenomen r oroande eftersom de kan leda till allvarliga och ofta ov ntade konsekvenser. S dana "psykoser" uppst r n r AI-system tr nas baserat p ofullst ndiga, felaktiga eller partiska data, vilket leder till felaktiga beslut och ol mpliga beteenden.
Ett framtr dande exempel p en s dan felfunktion r f rst rkning av befintliga f rdomar. Om en AI tr nas p data som inneh ller historiska eller sociala f rdomar kan den omedvetet anta och ytterligare f rst rka dessa f rdomar. Detta kan leda till diskriminerande beslut, t.ex. vid beviljande av l n, anst llning av personal eller i det straffr ttsliga systemet. S dana f rdomar kan systematiskt missgynna minoriteter och marginaliserade grupper och ytterligare cementera befintliga oj mlikheter.
Ett annat exempel r s kerhetskritiska funktionsfel. Inom omr den som medicinsk diagnostik, styrning av sj lvk rande fordon eller industriell automation kan felaktiga beslut f allvarliga konsekvenser. Ett autonomt fordon som felidentifierar en fotg ngare och inte stannar i tid, eller ett medicinskt system som inte lyckas diagnostisera en sjukdom korrekt, kan f livshotande konsekvenser.
F r att identifiera och eliminera dessa och andra problem kr vs ett tv rvetenskapligt angreppss tt. Tekniker f r feldetektering och felkorrigering f rklaras i detalj. Detta inkluderar anv ndning av avancerade algoritmer f r anomalidetektering och implementering av vervakningssystem som analyserar AI: ns prestanda i realtid. Allt detta och m nga andra delar av AI-forskningen presenteras utf rligt av f rfattaren.
Carl Whittaker r f rfattare till grundverket "The Psychology of Artificial Intelligence", som publicerades i december 2023 (ISBN: 978-3-911075-99-2)