Conform Mediafax: OpenAI lansează o nouă tehnologie AI care promite o viteză de procesare de până la 14 ori mai mare decât metodele standard, vizând companiile și fluxurile de lucru care necesită răspunsuri în timp real. Noul mod, denumit „Ultrafast”, permite utilizatorilor să obțină performanțe de vârf fără a sacrifica viteza, prin intermediul modelului GPT-5.6 Sol, vârful de gamă al companiei.
Noul mod „Ultrafast” este conceput pentru scenarii în care rapiditatea este crucială, permițând o „muncă utilă pe secundă” semnificativ crescută, conform declarațiilor companiei. GPT-5.6 Sol este cel mai avansat model din noua familie GPT-5.6, alături de variantele Terra și Luna, fiind destinat sarcinilor complexe precum programarea, analiza profesională, cercetarea științifică și securitatea cibernetică.
Accelerarea vitezei de procesare AI
Capacitatea de a atinge până la 750 de tokenuri pe secundă este posibilă datorită unei infrastructuri noi, dezvoltate în colaborare cu producătorul de cipuri Cerebras. OpenAI a anunțat inițial că accesul la această tehnologie va fi limitat, urmând să fie extins pe măsură ce capacitatea disponibilă crește.
Această accelerare este deosebit de utilă în domenii precum răspunsul la incidente, serviciile pentru clienți, analiza piețelor financiare și comerțul electronic. În aceste sectoare, timpul de răspuns rapid poate influența direct succesul operațiunilor și satisfacția clienților. Compania a dezvoltat, de asemenea, o funcție „ultra”, care utilizează agenți multipli ce lucrează în paralel pentru a accelera sarcinile complexe. Aceasta diferă de simpla accelerare a generării de text, având scopul de a executa mai multe fluxuri de lucru simultan.
Competiția pe piața AI, accent pe viteză
Strategia OpenAI vine pe fondul unei competiții acerbe între furnizorii de modele AI, unde reducerea latenței a devenit un factor esențial. Compania oferă deja pentru GPT-5.6 Sol un mod „Fast”, care dublează costul, dar crește viteza de procesare de până la 2,5 ori comparativ cu modul Standard în API.
Cu noua infrastructură bazată pe Cerebras, OpenAI indică viteze de până la 750 de tokenuri pe secundă, un salt considerabil față de procesarea standard. Aceste inovații poziționează OpenAI în avangarda dezvoltării tehnologiilor AI, răspunzând cererilor tot mai mari de performanță și viteză din partea pieței.
Sursa: Mediafax
