Newsletter Subscribe
Enter your email address below and subscribe to our newsletter
[forminator_form id="25163"]

aws.amazonaws.amazonaws.amazonAmazon Web Services Amazon.com, Inc. har lansert krysregioninferens for OpenAIs GPT-5.6-modellfamilie på Amazon Bedrock, noe som utvider tilgangen til mer enn 25 AWS-regioner over hele verden. Kunngjøringen ble gjort 17. august og forklart i et teknisk blogginnlegg publisert 20. august, og markerer en betydelig oppskalering av partnerskapet mellom AWS og OpenAI for å levere avanserte AI-modeller via skyinfrastruktur.aws.amazon+1
Rulleringen dekker tre generelle GPT-5.6-varianter: Sol, Terra og Luna, som hver er utformet for ulike arbeidsbelastninger. Sol er rettet mot avansert resonnering, autonom koding og vitenskapelig forskning. Terra tilbyr balansert ytelse for daglige produksjonsoppgaver til omtrent halvparten av prisen for Sol. Luna gir rask og rimelig inferens for applikasjoner med høye volumer.aws.amazon+1
Alle de tre variantene godtar tekst- og bildeinndata, støtter et kontekstvindu på 1 million tokens, og fungerer med OpenAI Responses API, Chat Completions API og Amazon Bedrock Converse API, inkludert strømming. Utviklere som bruker OpenAI SDK, kan peke sin eksisterende klient til Bedrocks OpenAI-kompatible endepunkt og bytte inn en inferensprofil-ID som modellparameter.aws.amazon+1
Krysregioninferens fungerer gjennom to profiltyper. Geografiske profiler, med et prefiks som `us.`, ruter bare forespørsler innenfor en definert grense, for eksempel over US East (N. Virginia), US West (Oregon) og US East (Ohio), for å oppfylle krav til datalagring. Globale profiler, med prefikset `global.`, ruter til alle støttede kommersielle regioner basert på kapasitet i sanntid og gir omtrent 10 prosent rabatt per token.aws.amazon+1
AWS introduserte også India-spesifikke geografiske profiler for Terra og Luna, som ruter forespørsler innenfor Mumbai og Hyderabad for å oppfylle lokale regelverk.aws.amazon
GPT-5.6 ble først generelt tilgjengelig på Amazon Bedrock i midten av juli, opprinnelig gjennom et begrenset antall regioner. Siden den gang har AWS gradvis utvidet funksjonaliteten ved å legge til støtte for et kontekstvindu på 1 million tokens 3. august, lansere Daybreak-cybersikkerhetsvarianter 11. august, og nå muliggjøre krysregioninferens med global og geografisk ruting. Tjenesten bruker AWS sin sikkerhetsmodell uten operatørtilgang, der alle forespørsler autentiseres gjennom IAM og logges i CloudTrail.linkedin+3
Utvidelsen kommer samtidig som OpenAI skalerer opp sin beregningsinfrastruktur i parallell, og selskapet bekreftet nylig at deres første parti med Nvidia Vera Rubin-racker er operative og kjører treningsøkter for neste generasjons modeller.moomoo