Jan 31, 2024 8:19:32 AM | CALM, LLaMA Pro : vers la prochaine étape de l'IA

modèles monolithiques à collaboratif CALM pour Collaboration entre les Modèles à Attention Croisée#Multimodels LLaMA Pro

L'IA générative connaît une transformation silencieuse, passant de modèles monolithiques à un modèle collaboratif. Deux expériences récentes sont éclairantes : CALM pour Collaboration entre les Modèles à Attention Croisée et LLaMA Pro. Ces innovations peuvent dessiner l'IA des mois à venir. Elles montrent que les modèles peuvent partager des compétences en gardant la puissance globale et en intégrant des domaines spécialisées sans fine tuning.
CALM facilite la coopération entre les IA qui échangent grâce à des mécanismes d'attention croisée entre modèles (vs au sein du LLM). On est sur une augmentation de la capacité ("hashtagMultimodels").
LLaMA Pro fait progresser la collaboration en faisant d'un LLM l'agrégateur des connaissances fines des autres sans nécessiter de fine tuning. On est sur la spécialisation des capacités (vers le hashtagMixtureOfExperts).

On aura bientôt des systèmes d'IA génératives plus adaptables ; prêts à assimiler de nouveaux domaines en conservant leurs bases.

Cette évolution vers un écosystème de GenAI collaborative, optimise les ressources cloud et peut aider à aller vers une hashtaggreenai. Ce réseau de modèles spécialisés travaillant ensemble rappelle les bases du hashtagweb et accélère l'abandon du hashtagmonolithic.

Savez-vous si on a déjà un nom ? hashtagWAI (Web AI) hashtagnetAI hashtagAIchain ?

hashtagIA hashtaggenai

CALM PDF reference: https://lnkd.in/da-StZeh
LLaMA Pro PDF reference: https://lnkd.in/d-xngszB

Luc Veuillet

Written By: Luc Veuillet

With over 25 years of experience in the digital space, I am a Technology Consulting Partner and Head of AI Practice at Insign, a leading agency that helps clients harness the power of IT and emerging technologies for business growth. I have developed a deep expertise in Artificial Intelligence, cybersecurity, and digital transformation, and I lead a talented team of consultants who provide strategic guidance and implementation support to clients across various sectors and industries. My goal is to craft digital ecosystems that unite individuals, machines, and data, and to leverage the full potential of AI for innovation and value creation. I also oversee cybersecurity initiatives and collaborate with business teams to strengthen the organization's resilience against cyber challenges. My dual role enables me to dialog with clients at both the technical and strategic levels, and deliver solutions that are aligned with their goals and needs. I am passionate about applying technological advancements to everything not yet challenged, and constantly seeking new ways to learn and grow.