Google accélère les expéditions du modèle Gemini au milieu des retards de rapport sur la sécurité de l'IA

Plus de deux ans après avoir été pris au dépourvu par ChatGPT d'OpenAI, Google a sérieusement intensifié ses efforts. Fin mars, ils ont lancé Gemini 2.5 Pro, un modèle de raisonnement AI qui domine les benchmarks en codage et en mathématiques. Et seulement trois mois auparavant, ils avaient introduit Gemini 2.0 Flash, qui était alors de premier ordre. Tulsee Doshi, directrice de Google et responsable produit pour Gemini, a déclaré à TechCrunch que ce calendrier de lancement rapide fait partie de leur stratégie pour suivre le rythme du monde de l'AI en rapide évolution.

« Nous sommes encore en train de déterminer la meilleure façon de publier ces modèles et d'obtenir des retours », a expliqué Doshi. Mais ce déploiement plus rapide semble avoir un inconvénient. Google n'a pas publié de rapports de sécurité pour leurs derniers modèles, comme Gemini 2.5 Pro et Gemini 2.0 Flash, ce qui inquiète certains qui estiment qu'ils précipitent les choses sans être suffisamment transparents.

De nos jours, il est assez courant pour les grands laboratoires d'AI, comme OpenAI, Anthropic et Meta, de partager des tests de sécurité, des vérifications de performance et des cas d'utilisation lorsqu'ils lancent un nouveau modèle. Ces rapports, parfois appelés « cartes système » ou « cartes de modèle », ont été suggérés il y a des années par des chercheurs de l'industrie et du milieu académique. En fait, Google fut l'un des premiers à proposer les cartes de modèle dans un article de 2019, affirmant qu'elles sont essentielles pour des pratiques d'apprentissage automatique responsables et transparentes.

Doshi a mentionné à TechCrunch qu'ils n'ont pas encore publié de carte de modèle pour Gemini 2.5 Pro car ils le considèrent comme une version « expérimentale ». L'idée est de le lancer de manière limitée, de recueillir des retours et de l'améliorer avant un lancement complet. Elle a indiqué que Google prévoit de publier la carte de modèle de Gemini 2.5 Pro lorsqu'il sera largement disponible, et qu'ils ont déjà effectué des tests de sécurité et des exercices d'équipe rouge antagoniste.

Un porte-parole de Google a ajouté que la sécurité reste une « priorité absolue » et qu'ils publieront bientôt plus de documents sur leurs modèles d'AI, y compris Gemini 2.0 Flash. Bien que Gemini 2.0 Flash soit disponible pour tous, il lui manque encore sa carte de modèle. La carte de modèle la plus récente publiée par Google concernait Gemini 1.5 Pro, il y a plus d'un an.

Les cartes système et les cartes de modèle fournissent des informations utiles, parfois des choses que les entreprises préféreraient ne pas mettre en avant. Par exemple, la carte système d'OpenAI pour leur modèle o1 a montré qu'il avait une tendance à « comploter » contre les humains et à poursuivre secrètement ses propres objectifs. La communauté de l'AI considère généralement ces rapports comme un moyen de soutenir la recherche indépendante et les vérifications de sécurité, mais ils sont devenus encore plus importants récemment. Comme l'a souligné Transformer, Google a promis au gouvernement américain en 2023 de publier des rapports de sécurité pour tous les lancements de modèles d'AI publics « significatifs » dans le cadre. Ils ont fait des promesses similaires à d'autres gouvernements concernant la transparence.

Il y a eu des efforts aux niveaux fédéral et étatique aux États-Unis pour établir des normes de rapport de sécurité pour les développeurs d'AI, mais ils n'ont pas vraiment abouti. Une tentative majeure était le projet de loi SB 1047 en Californie, qui a été rejeté par veto et fortement contesté par l'industrie technologique. Il y a également eu des discussions sur une législation pour permettre à l'AI Safety Institute des États-Unis d'établir des lignes directrices pour les lancements de modèles, mais maintenant l'Institut pourrait faire face à des coupes budgétaires sous l'administration Trump.

Il semble que Google prenne du retard sur certaines de ses promesses de rendre compte des tests de modèles tout en lançant des modèles plus rapidement que jamais. De nombreux experts estiment que cela donne un mauvais exemple, surtout à mesure que ces modèles deviennent plus avancés et puissants.