L'IA générative connaît une transformation silencieuse, passant de modèles monolithiques à un modèle collaboratif. Deux expériences récentes sont éclairantes : CALM pour Collaboration entre les Modèles à Attention Croisée et LLaMA Pro. Ces innovations peuvent dessiner l'IA des mois à venir. Elles montrent que les modèles peuvent partager des compétences en gardant la puissance globale et en intégrant des domaines spécialisées sans fine tuning.
CALM facilite la coopération entre les IA qui échangent grâce à des mécanismes d'attention croisée entre modèles (vs au sein du LLM). On est sur une augmentation de la capacité ("hashtag#Multimodels").
LLaMA Pro fait progresser la collaboration en faisant d'un LLM l'agrégateur des connaissances fines des autres sans nécessiter de fine tuning. On est sur la spécialisation des capacités (vers le hashtag#MixtureOfExperts).
On aura bientôt des systèmes d'IA génératives plus adaptables ; prêts à assimiler de nouveaux domaines en conservant leurs bases.
Cette évolution vers un écosystème de GenAI collaborative, optimise les ressources cloud et peut aider à aller vers une hashtag#greenai. Ce réseau de modèles spécialisés travaillant ensemble rappelle les bases du hashtag#web et accélère l'abandon du hashtag#monolithic.
Savez-vous si on a déjà un nom ? hashtag#WAI (Web AI) hashtag#netAI hashtag#AIchain ?
hashtag#IA hashtag#genai
CALM PDF reference: https://lnkd.in/da-StZeh
LLaMA Pro PDF reference: https://lnkd.in/d-xngszB