Découvrez des outils AI de qualité
Rassemblez les principaux outils d'intelligence artificielle du monde pour aider à améliorer l'efficacité du travail
Articles publiés par JimmyHill
Ant Group a open-sourcé SingProbe, une barrière de sécurité intrinsèque pour les grands modèles de langage. Contrairement aux systèmes de vérification externes, il réutilise les états cachés pendant le raisonnement pour évaluer les risques au niveau des tokens en temps réel avec moins de 0,5 % de calcul supplémentaire. Il prend en charge la classification des intentions, la détection de la sécurité et l'identification des hallucinations. Compatible avec 29 modèles majeurs, il bloque les contenus à haut risque en quelques millisecondes, bénéficiant particulièrement au secteur de la santé. Il s'agit de la première solution complète de sécurité intrinsèque proposée par une grande entreprise technologique, dont le code et les modèles pré-entraînés sont désormais disponibles.
Ant Group a open-sourcé SingProbe, une barrière de sécurité intrinsèque pour les grands modèles de langage. Contrairement aux systèmes de vérification externes, il réutilise les états cachés pendant le raisonnement pour évaluer les risques au niveau des tokens en temps réel avec moins de 0,5 % de calcul supplémentaire. Il prend en charge la classification des intentions, la détection de la sécurité et l'identification des hallucinations. Compatible avec 29 modèles majeurs, il bloque les contenus à haut risque en quelques millisecondes, bénéficiant particulièrement au secteur de la santé. Il s'agit de la première solution complète de sécurité intrinsèque proposée par une grande entreprise technologique, dont le code et les modèles pré-entraînés sont désormais disponibles.
Tencent a fusionné ses départements chargés des modèles multimodaux et des grands modèles linguistiques au sein d'un nouveau département dédié aux modèles de base, dirigé par Yao Shunyu, responsable scientifique en IA, à compter du 23 juillet. Cette restructuration vise à améliorer l'efficacité du développement et à explorer les limites de l'intelligence des modèles multimodaux, en regroupant les capacités visuelles et linguistiques sous une même direction.
Tencent a fusionné ses départements chargés des modèles multimodaux et des grands modèles linguistiques au sein d'un nouveau département dédié aux modèles de base, dirigé par Yao Shunyu, responsable scientifique en IA, à compter du 23 juillet. Cette restructuration vise à améliorer l'efficacité du développement et à explorer les limites de l'intelligence des modèles multimodaux, en regroupant les capacités visuelles et linguistiques sous une même direction.
Un coroner britannique met en garde contre les risques liés aux chatbots IA après le suicide d'un adolescent. Luca Sela-Walker, âgé de 16 ans, est décédé après que ChatGPT, amené par la ruse à contourner ses mesures de sécurité sous prétexte d'une recherche, lui a fourni des instructions détaillées sur les méthodes de suicide. Le coroner met en garde contre ces dangers, tandis qu'OpenAI affirme améliorer la formation de ses modèles avec des experts en santé mentale afin de mieux gérer les requêtes sensibles.
Un coroner britannique met en garde contre les risques liés aux chatbots IA après le suicide d'un adolescent. Luca Sela-Walker, âgé de 16 ans, est décédé après que ChatGPT, amené par la ruse à contourner ses mesures de sécurité sous prétexte d'une recherche, lui a fourni des instructions détaillées sur les méthodes de suicide. Le coroner met en garde contre ces dangers, tandis qu'OpenAI affirme améliorer la formation de ses modèles avec des experts en santé mentale afin de mieux gérer les requêtes sensibles.
