Key takeaways
- De Europese Commissie onderzoekt inbreuken op de veiligheid bij Anthropic en OpenAI.
- EU-functionarissen maken zich zorgen dat nieuwe grensverleggende modellen zich steeds moeilijker aan technisch toezicht laten onderwerpen.
- De Europese AI-wet verplicht ontwikkelaars tot gedetailleerde en waarheidsgetrouwe informatie over de veiligheid van hun modellen.
De Europese Commissie vraagt om nadere toelichting van Anthropic en OpenAI naar aanleiding van verschillende opvallende veiligheidsinbreuken waarbij hun AI-systemen betrokken waren. Dat meldt Rapporteur.
Commissie onderzoekt gevolgen van veiligheidsincidenten
Volgens een woordvoerder van de Commissie richt het onderzoek zich op de frequentie van die incidenten en de omvang van de gevolgen binnen de Europese Unie. Ook wil de Commissie weten welke aanpassingen de bedrijven naar aanleiding daarvan hebben doorgevoerd in hun beveiligingsprotocollen en strategieën voor risicobeheer.
Zorgen over technisch toezicht
Naast deze incidenten onderzoeken EU-functionarissen beweringen dat de nieuwste generatie geavanceerde modellen vanuit technisch oogpunt steeds moeilijker te controleren is.
Regelgevingskader
De verzoeken zijn gebaseerd op de Europese AI-wet, die ontwikkelaars verplicht strenge veiligheidsmaatregelen te nemen. De wetgeving geeft de Commissie de bevoegdheid om gegevens op te vragen om de naleving ervan te controleren. Daarnaast verplicht ze bedrijven om alle significante veiligheidsincidenten formeel te melden.
Vraag naar transparantie
Eerder dit najaar maakte de Commissie duidelijk dat het nakomen van deze wettelijke verplichtingen geen loutere formaliteit is. Een woordvoerder verklaarde dat de informatie van AI-laboratoria gedetailleerd en waarheidsgetrouw moet zijn, en dus niet oppervlakkig mag blijven. (lv)
Wil je meer technieuws ontvangen? Schrijf je in op onze wekelijkse Tech Insider-nieuwsbrief
Volg Business AM ook op Google Nieuws
Wil je toegang tot alle artikelen, geniet tijdelijk van onze promo en abonneer je hier!
