Quels modèles GPT-6 sont désormais accessibles et où ?

Amazon Bedrock propose désormais trois modèles OpenAI de la génération GPT-6 : GPT-6 Sol, GPT-6 Luna et GPT-6 Astra, accessibles via une inférence croisée entre régions (cross-Region) depuis cinq régions AWS en Asie du Sud-Est et à Taïwan, selon le blog officiel AWS Machine Learning.

Les modèles GPT-6 Sol et GPT-6 Luna sont disponibles depuis les régions Asia Pacific (Singapore), Asia Pacific (Jakarta), Asia Pacific (Malaysia), Asia Pacific (Thailand) et Asia Pacific (Taipei). En revanche, le modèle GPT-6 Astra n'est accessible que depuis la région Asia Pacific (Singapore).

L'inférence croisée entre régions permet aux utilisateurs d'accéder à des modèles d'IA avancés sans contrainte géographique, tout en simplifiant la gestion des coûts et des logs.

Quelles fonctionnalités et niveaux de raisonnement sont supportés ?

Les trois modèles acceptent des entrées combinant texte et images, ainsi que l'utilisation d'outils côté client et le cache de prompts, une fonctionnalité utile pour optimiser les performances et réduire les coûts, précise AWS. Les niveaux de raisonnement pour GPT-6 Sol et GPT-6 Luna incluent six options : none, low, medium, high, xhigh et max. À l'inverse, GPT-6 Astra n'accepte pas le niveau none, ce qui suggère une approche plus orientée vers des tâches complexes dès le départ.

Comment fonctionne l'inférence croisée entre régions et quelles sont ses implications techniques ?

L'inférence croisée entre régions permet de router les requêtes vers des régions AWS commerciales où le modèle est déployé, offrant ainsi un accès élargi à la capacité d'Amazon Bedrock. Cette approche garantit que les utilisateurs des régions Asia Pacific (Jakarta), Asia Pacific (Malaysia), Asia Pacific (Thailand) et Asia Pacific (Taipei) puissent bénéficier des modèles, même si ceux-ci ne sont pas déployés localement. La facturation, le suivi des quotas, ainsi que les logs via AWS CloudTrail et Amazon CloudWatch restent associés à la région source de la requête, simplifiant ainsi la gestion pour les organisations.

Les régions Jakarta, Malaysia, Thailand et Taipei doivent être activées individuellement avant utilisation, tandis que Singapore est activée par défaut. Les profils d'inférence croisée sont listés dans la console Amazon Bedrock et peuvent être invoqués via l'API Converse, l'API OpenAI Responses ou l'API OpenAI Chat Completions en utilisant l'endpoint bedrock-runtime.

Ce que cela change ici

Pour les entreprises et administrations du Bénin et d'Afrique de l'Ouest, cette extension de l'inférence croisée entre régions pourrait faciliter l'accès à des modèles d'IA avancés sans nécessiter de déploiement local coûteux. Les organisations basées dans des pays voisins comme le Nigeria, le Ghana ou la Côte d'Ivoire, qui utilisent déjà des infrastructures AWS, pourraient explorer des partenariats avec des acteurs locaux en Asie du Sud-Est pour intégrer ces modèles dans leurs solutions, tout en bénéficiant d'une latence réduite grâce à la proximité géographique des régions AWS.

Les administrations publiques pourraient aussi envisager des projets pilotes utilisant ces modèles pour des tâches nécessitant un haut niveau de raisonnement, comme l'analyse de données complexes ou l'automatisation de processus décisionnels. Cependant, la dépendance à des régions spécifiques comme Singapore pour certains modèles pourrait poser des défis en termes de souveraineté des données, un enjeu croissant en Afrique.