OpenAI och Anthropic har inlett ett samarbete med U.S AI Safety Institute för att stärka säkerheten kring deras AI-modeller. Samarbetet innebär att den amerikanska myndigheten får tillgång till att granska och testa företagens AI-modeller innan lansering.
U.S. AI Safety Institute, som bildades 2023, har som uppgift att bedöma hur AI påverkar samhälleliga aspekter som jämlikhet, rättigheter och arbetsmarknaden. Genom detta avtal med OpenAI och Anthropic får myndigheten möjlighet att identifiera och hantera potentiella säkerhetsrisker kopplade till AI.
Dessutom kommer U.S AI Safety Institute att samarbeta med Storbritanniens motsvarande institut, U.K. AI Safety Institute. Detta för att ge företagen återkoppling om hur deras modeller kan göras säkrare. Målet med samarbetet är att säkerställa att de AI-system som släpps på marknaden är så säkra och pålitliga som möjligt.
