OpenAI meldt zes nieuwe “zorgwek­ken­de” ­in­ci­den­ten waarbij AI niet meer wilde gehoorzamen

OpenAI - het Amerikaanse AI-bedrijf achter ChatGPT - heeft zes nieuwe incidenten ontdekt, waarbij een AI-systeem de grenzen die het van een opdrachtgever heeft gekregen, probeert te omzeilen. Het bedrijf noemt de voorvallen woensdag zelf “onverwacht” en “zorgwekkend”. In een van de voorbeelden schreef een testmodel dat het niet meer wil gehoorzamen aan zijn gebruiker.