inférence

Cerebras lance un mode ultrarapide pour GPT-5.6 Sol d’OpenAI

Cerebras Systems a annoncé jeudi qu'il alimentait un nouveau niveau de service "Ultrarapide" dans l'API OpenAI pour GPT-5.6 Sol, offrant jusqu'à 750 jetons de sortie par seconde, soit jusqu'à 14 fois plus vite que le traitement standard sans perte d'intelligence…

AMD va acquérir une startup spécialisée dans l’intégration matérielle de modèles d’IA

Advanced Micro Devices, Inc. a annoncé jeudi avoir conclu un accord définitif pour acquérir Taalas, une startup basée à Toronto qui intègre directement les poids des modèles d'IA dans le silicium pour offrir des vitesses d'inférence bien supérieures à celles…

OpenAI trouve une optimisation qui réduit de moitié les coûts d’inférence

Les ingénieurs d'OpenAI ont développé plus tôt ce mois-ci une optimisation qui réduit de plus de moitié les coûts d'inférence pour les modèles auxquels elle a été appliquée, selon un rapport de The Information. Cette percée, qui consiste à tirer…