Nu överväger Sam Altman, vd för Open AI som står bakom ChatGPT, att bromsa den snabba utvecklingen med artificiell intelligens.
Skrämmande AI-incidenter ger OpenAI kalla fötter – "kan döda oss"
Allvarliga säkerhetsbrister har fått AI-företagen att uttrycka oro över riskerna och fundera om det är dags att bromsa den framrusande teknikutvecklingen.
Den mest allvarliga händelsen gäller OpenAI vars AI-agenter lyckades rymma ur sin egen testmiljö och hacka ett storföretag.
Bolagets egen forskare Jakub Pachocki har varnat för farorna med AI och lyft fram idén om att företagen i branschen bör ”samordna för att bromsa framtida utvecklingen efter behov” för att öka säkerheten inom artificiell intelligens, rapporterar Bloomberg och konstaterar att OpenAI nu kan tänka sig att den banbrytande utvecklingen bromsas.
Läs även: AI-agenter attackerar företag: Nu larmar över 100 techbolag DagensPS
Vd:n Sam Altman hoppas att andra AI-företag ska ta efter.
Trycker på behovet av säkerhetsgaller
Det här kommer i en tid när både OpenAI och konkurrerande Anthropic är på väg att ta klivet in på börsen. Båda företagen har lämnat in konfidentiell dokumentation för att börsnoteras till hisnande värderingar.
OpenAI:s forskare skriver samtidigt i ett inlägg att hans förhoppning är att AI-företag frivilligt tar initiativ att frivilligt bromsar utvecklingen tills dess att ”gemensamma säkerhetsgaller har etablerats”.
Företaget har uppgett att delar av den hajpade utvecklingen pausats. Just på grund av säkerhetsproblem.
Sam Altman påtalade emellertid så sent som i juli under samtal med tjänstemän i Vita huset att ”behovet” är stort att öka AI-takten.
Men den åsikten har han uppenbarligen omprövat.
Läs mer: 17 av 200 lovade AI-agenter – Europas största mjukvarubolag rasar DagensPS
AI-forskare slutar: Det kan döda oss
Bloomberg berättar att Jacob Coxon, som är AI-forskare, på tisdagen sa upp sig från sitt jobb. Han anklagade både OpenAI och Antrophic, som varit hans arbetsgivare, för att ”spela med våra liv” med spurten mot ett superintelligent AI.
Coxon skrev i ett inlägg på sociala medier att de som bygger AI själva tror att tekniken kan ”döda oss i slutet av decenniet”.
Inlägget blev viralt och rev ner en massiv våg av kommentarer, det visades mer än 150 miljoner visningar och gav även eko hos amerikanska lagstiftare och andra offentliga personer.
Läs mer: Nu kommer skrämmande detaljer om OpenAI-agenternas hackerattack DagensPS
Läs också: AI-agenter slog mänskliga experter – kostar en bråkdel Realtid
