Säkerhetsoro stoppar Open AI:s nya modell
Techjätten Open AI drar i handbromsen för sin nya AI-modell på grund av säkerhetsrisker, rapporterar flera medier.
Problemen upptäcktes i samband med ett internt test av den nya modellen ”GPT-6.1 Astra” som planerades att släppas redan under oktober.
”Vi vill säkerställa att vår modellutveckling är säker oavsett om det sker internt i företaget, eller när vi levererar den till användare”, säger Saachi Jain, chef för säkerhetssystem vid Open AI i ett uttalande, enligt The Wall Street Journal.
En av modellens brister uppges vara i efterlevnad, det vill säga hur väl den följer vad användaren vill att den ska göra. Vidare upptäcktes problem där modellen gick vidare med en uppgift utan att be användaren om lov och vid vissa tillfällen användes potentiellt osäkra externa verktyg och tjänster.
