EU–kommissionen har riktat frågor till stora teknikföretag som Meta, Tiktok, Youtube, X, Microsoft och Google om deras hantering av AI-risker. Detta initiativ kommer i samband med införandet av den nya lagen om digitala marknader (DMA).
Frågorna från EU fokuserar på flera kritiska områden. Ett av dem är hur företagen hanterar AI-system som kan producera felaktig eller vilseledande information, så kallad “hallucinerande” AI. Kommissionen är också bekymrad över spridningen av deepfakes, där AI skapar falska videor eller bilder, som kan användas för att vilseleda allmänheten.
Ett annat viktigt område är hur dessa plattformar kan manipuleras för att påverka valprocesser. EU-kommissionen vill därför veta vilka åtgärder som techjättarna har planerat för att minska dessa risker.
Förutom svar på dessa frågor kräver kommissionen även att företagen presenterar interna dokument. Dessa dokument ska innehålla riskbedömningar och konkreta åtgärdsplaner för att hantera de potentiella faror som generativ AI kan innebära.