Nyligen uppnåddes en betydande seger i kampen mot missbruk av artificiell intelligens. På initiativ av De gröna och efter hårt arbete slog Europaparlamentet fast att skadliga AI-applikationer som producerar sexuellt innehåll ska begränsas på EU-marknaden.
Målet är inte att stoppa utvecklingen av generativ AI i stort, utan att särskilt ingripa mot funktioner som möjliggör exempelvis skapandet av nakenbilder eller deepfake-pornografi utan samtycke.
Parlamentet vill nu ålägga teknikföretagen att ta sitt ansvar: om deras system kan producera realistiskt bildmaterial måste de också aktivt förhindra missbruk. Det innebär konkreta tekniska och organisatoriska åtgärder, såsom varningsfönster eller blockering av vissa uppmaningar. Tjänsteleverantörer kan inte längre blunda för hur deras produkter används.
Behovet av åtgärder är uppenbart. Även i Finland har man sett hur AI-verktyg har ökat sexuellt våld, trakasserier och utpressning på nätet. Särskilt oroande är fall där barn är offer. Den snabba teknikutvecklingen har öppnat nya vägar för övergrepp, och det räcker inte att enbart straffa enskilda gärningspersoner när de är svåra att identifiera och fenomenet sprider sig brett.
Därför riktas blicken mot teknologin. EU måste snarast täppa till luckorna i lagstiftningen och säkerställa att sådana system antingen stoppas eller regleras strikt. Liknande resonemang syns även i EU:s ministerråd, vilket stärker den politiska viljan att gå vidare i frågan.
Diskussionen begränsas inte enbart till lagstiftning. Det kvinnohatande och våldsamma innehåll som sprids på sociala medieplattformar visar att problemet också är kulturellt. Den teknologiska utvecklingen måste gå hand i hand med människovärde, säkerhet och grundläggande rättigheter.
I slutändan handlar det också om värderingar. AI fungerar inte självständigt utan styrs av människor. Därför ligger ansvaret inte bara hos lagstiftare och företag, utan också hos användare. Sexuella trakasserier eller våld, för att inte tala om våld mot barn, är inte underhållning och får inte accepteras i någon form.
Maria Ohisalo, europaparlamentariker, De Gröna
