Dagens PS

Källor: "Farlig upptäckt" bakom AI-chefens avsked

AI-chefens
Open AI:s vd Sam Altman fick sparken förra veckan – och fick sedan tillbaka jobbet en knapp vecka senare. (Foto: AP)
Simon Kronö
Simon Kronö
Uppdaterad: 23 nov. 2023Publicerad: 23 nov. 2023

Open Ai har bekräftat existensen av Q* – en teknologi som kan vara första steget mot en genuint intelligent AI.

ANNONS
ANNONS

Mest läst i kategorin

Innan den senaste veckans kalabalik hos techbolaget Open AI varnade en grupp forskare styrelsen för att man hade gjort en kraftfull upptäckt inom artificiell intelligens.

Upptäckten anses rent av kunna utgöra ett hot mot mänskligheten, enligt källor till Reuters.

Brevet och upptäckten ledde till att vd Sam Altman fick kicken, eftersom han ansågs vara alltför pådrivande för kommersialiseringen av AI-teknik utan att fullt ut förstå konsekvenserna.

En knapp vecka senare hade han fått tillbaka jobbet, vilket Dagens PS rapporterat om.

Läs mer: Hundratals anställda hotar att lämna Open AI – Dagens PS

Kan lösa enklare matteproblem

Open AI har internt erkänt projektet som går under namnet Q*, eller Q-Star, som nu ses som ett genombrott i sökandet efter artificiell generell intelligens. Detta är en form av AI som teoretiskt kommer kunna överträffa människans intellektuella förmåga inom i stort sett allt.

Q* har visat sig kunna lösa vissa matematiska problem – visserligen bara på grundskolenivå, men inte desto mindre ett viktigt framsteg eftersom just matematisk förmåga är ett hinder för AI-utvecklingen.

ANNONS

Generativ artificiell intelligens är som bekant redan bra på text och översättning, eftersom den statistiskt gissar sig till nästa ord i en sekvens. Svaren på en fråga kan också variera – men matematiska uppgifter har endast ett svar.

Läs mer: Open AI-investerare kan stämma styrelsen – Dagens PS

ANNONS

Senaste nytt

“Doomers” vs “Boomers”

Om Q* lyckas lösa svåra matematiska problem skulle det peka mot att teknologin har uppnått en högre förmåga till resonemang.

Diskussionerna kring den eventuella faran med högintelligent artificiell intelligens är inget nytt inom datavetenskapen. Tack vare framstegen med generativ AI har debatten tagit fart – där två läger bildats, skriver The Economist.

Å ena sidan har vi “doomers”, som tror att artificiell intelligens utan strikt reglering kan leda till mänsklighetens undergång – och så har vi “boomers”, som anser oron vara obefogad och som tror att teknologin kommer föra mänskligheten in i en guldålder.

Läs mer: Svenska bolag jagar AI-kompetens: “Många känner stress” – Dagens PS

Läs mer från Dagens PS - vårt nyhetsbrev är kostnadsfritt:
ANNONS
ANNONS

Senaste nytt

ANNONS