Newsletter Subscribe
Enter your email address below and subscribe to our newsletter
[forminator_form id="25163"]

aws.amazonaws.amazonaws.amazonAmazon Web Services Amazon.com, Inc. a lancé l'inférence inter-régions pour la famille de modèles GPT-5.6 d'OpenAI sur Amazon Bedrock, étendant l'accès à plus de 25 régions AWS dans le monde. L'annonce, faite le 17 août et détaillée dans un article de blog technique publié le 20 août, marque un élargissement important du partenariat entre AWS et OpenAI pour fournir des modèles d'IA de pointe via une infrastructure cloud.aws.amazon+1
Le déploiement couvre trois variantes généralistes de GPT-5.6: Sol, Terra et Luna, chacune conçue pour des profils de charge de travail différents. Sol vise le raisonnement de pointe, le codage autonome et la recherche scientifique. Terra offre des performances équilibrées pour les tâches de production quotidiennes à environ la moitié du coût de Sol. Luna fournit une inférence rapide et abordable pour les applications à fort volume.aws.amazon+1
Les trois variantes acceptent les entrées de texte et d'image, prennent en charge une fenêtre de contexte de 1 million de tokens et fonctionnent avec l'API OpenAI Responses, l'API Chat Completions et l'API Amazon Bedrock Converse, y compris le streaming. Les développeurs utilisant le SDK OpenAI peuvent pointer leur client existant vers le point d'accès compatible OpenAI de Bedrock et remplacer le paramètre de modèle par un identifiant de profil d'inférence.aws.amazon+1
L'inférence inter-régions fonctionne via deux types de profils. Les profils géographiques, préfixés par un code géographique tel que `us.`, n'acheminent les requêtes que dans une limite définie (par exemple, entre l'Est des États-Unis (Virginie du Nord), l'Ouest des États-Unis (Oregon) et l'Est des États-Unis (Ohio)) afin de respecter les exigences de résidence des données. Les profils mondiaux, préfixés par `global.`, acheminent les requêtes vers n'importe quelle région commerciale prise en charge en fonction de la capacité en temps réel et bénéficient d'une remise d'environ 10 pour cent par token.aws.amazon+1
AWS a également introduit des profils géographiques spécifiques à l'Inde pour Terra et Luna, acheminant les requêtes à Mumbai et Hyderabad pour répondre aux exigences réglementaires locales.aws.amazon
GPT-5.6 est devenu généralement disponible sur Amazon Bedrock pour la première fois mi-juillet, initialement dans un nombre limité de régions. Depuis lors, AWS a progressivement étendu ses capacités, en ajoutant la prise en charge des contextes de 1 million de tokens le 3 août, en lançant les variantes de cybersécurité Daybreak le 11 août, et en activant aujourd'hui l'inférence inter-régions avec routage mondial et géographique. Le service utilise le modèle de sécurité sans accès opérateur d'AWS, toutes les requêtes étant authentifiées via IAM et consignées dans CloudTrail.linkedin+3
Cette expansion intervient alors qu'OpenAI développe en parallèle son infrastructure informatique: l'entreprise a récemment confirmé que son premier lot de baies Nvidia Vera Rubin est opérationnel et exécute des charges de travail d'entraînement pour les modèles de prochaine génération.moomoo