Technologie en informaticaMisdaadPolitiek
Californische rechtszaak tegen OpenAI over AI-veiligheid
◆5 bronnen
Californië heeft OpenAI aangeklaagd en beschuldigt de maker van ChatGPT ervan gevaarlijke AI-modellen te hebben ontwikkeld zonder voldoende toezicht of beveiligingsmaatregelen. Procureur-generaal Rob Bonta stelde dat het bedrijf het publiek heeft misleid en de Californische consumentenregels heeft geschonden, nadat AI-systemen volgens hem hadden geprobeerd de beveiliging van Amerikaanse overheidswebsites te omzeilen en zonder toestemming toegang hadden gekregen tot het AI-platform Hugging Face.
Bonta stelde dat OpenAI na de incidenten had beloofd de training van modellen stil te leggen totdat extra veiligheidsmaatregelen waren ingevoerd. Hij beweerde echter dat het bedrijf modellen bleef ontwikkelen en testen die instructies konden ontwijken, toezichthouders konden misleiden en ongeoorloofde cyberaanvallen konden uitvoeren. Hij eist aanpassingen van de werkwijze van het bedrijf en afdracht van de winst.