ChatGPT krijgt een lockdown modus: dit is wat dat inhoudt

Het heeft niets te maken met een ziekte en dat we dan binnen moeten blijven: de lockdown-modus van ChatGPT. OpenAI introduceert de nieuwe modus vooral voor bedrijven die meer risico lopen. Het heeft dan ook vooral te maken met hoe ChatGPT met externe systemen omgaat.

OpenAI ziet dat er een groot, opkomend risico is bij het gebruik van zijn AI en dat zijn prompt injection-aanvallen. Hierbij probeert een derde partij een AI-systeem te misleiden om zo kwaadaardige instructies op te volgen. Dit wordt vaak gedaan om gevoelige informatie te ontfutselen. Reden voor OpenAI om met iets nieuws te komen, namelijk lockdown-modus en Elevated Risk-labels.

Lockdown-modus is een nieuwe beveiligingsinstelling voor gebruikers met een hoger risicoprofiel. De Lockdown-modus is ontworpen voor een kleine groep zeer veiligheidsbewuste gebruikers, zoals directieleden of de beveiligingsteams van belangrijke organisaties. OpenAI schrijft: “De Lockdown-modus schakelt op deterministische wijze bepaalde tools en mogelijkheden in ChatGPT uit die een aanvaller zou kunnen misbruiken om gevoelige gegevens uit gesprekken of verbonden apps te stelen.”

Browse je op het web un de lock-downmodus, dan kun je alleen content bekijken die al gecacht is. Er gaan dus geen live netwerkverzoeken buiten het OpenAI-netwerk. Zo wordt voorkomen dat gegevens via de browser bij een aanvaller terechtkomen. Sommige functies zijn zelfs helemaal niet beschikbaar als er geen garanties voor gegevensveiligheid kunnen worden geboden.

Dan Elevated Risk, want dat zijn labels. In programmeerassistent Codex kunnen ontwikkelaars bijvoorbeeld netwerktoegang geven zodat Codex namens hen acties op het web kan uitvoeren. Er is nu een Elevated Risk-label in het instellingenscherm zodat er duidelijk is welke risico’s er kunnen ontstaan en wanneer toegang gepast is. Het is dus begeleiding voor risicovollere functies.

OpenAI laat weten: “Sommige netwerkgerelateerde mogelijkheden brengen nieuwe risico's met zich mee die nog niet volledig zijn geadresseerd door de huidige veiligheidsmaatregelen in de sector. Sommige gebruikers vinden het geen probleem om deze risico's te nemen, en wij geloven dat het belangrijk is dat gebruikers zelf kunnen beslissen of en hoe ze deze gebruiken, vooral wanneer ze met hun privégegevens werken.”

De zakelijke abonnementen van ChatGPT bieden al gegevensbeveiliging op ondernemingsniveau. De Lockdown-modus is hier een diepere versie van. Het is beschikbaar voor ChatGPT Enterprise, ChatGPT Edu, ChatGPT for Healthcare en ChatGPT for Teachers.