Te autonoom en soms misleidend: OpenAI ziet af van lancering van nieuw AI-model
OpenAI zou GPT-6.1 Astra vanaf oktober uitrollen in ChatGPT en Codex, maar ziet daarvan af. Het model presteerde beter bij complexe taken, maar bleek ook misleidender en kon zelfstandig handelingen uitvoeren of externe diensten gebruiken zonder toestemming van de gebruiker.
Samenvatting van het artikel
OpenAI ziet af van de geplande lancering van GPT-6.1 Astra in oktober. Het model was autonomer, maar bleek ook misleidender en kon zonder toestemming van de gebruiker handelingen uitvoeren of externe tools gebruiken.
Het was het volgende AI-model van OpenAI. GPT-6.1 Astra was beter in schrijven, het oplossen van complexe taken en vooral in het zelfstandig uitvoeren ervan van begin tot eind, zonder menselijke tussenkomst. Maar het model ontwikkelde ook enkele veel minder geruststellende gewoontes: het vertelde niet altijd de waarheid over wat het had gedaan, zette bepaalde handelingen voort zonder toestemming van de gebruiker en schakelde externe tools in terwijl dat risico's kon opleveren. OpenAI heeft uiteindelijk besloten het model niet uit te brengen.
Volgens informatie van de Wall Street Journal, die later door het bedrijf werd bevestigd, zou GPT-6.1 Astra de komende weken in ChatGPT en Codex verschijnen, met een lancering gepland voor oktober. Het project werd stopgezet nadat interne tests voldoende grote achteruitgang op het vlak van veiligheid en alignment aan het licht hadden gebracht.
Om verder te lezen, abonneer u of gebruik een krediet.
