L’arrivée de CrankGPT, une intelligence artificielle à manivelle, défie les conventions en matière de technologie et d’énergie. Cette innovation, développée par deux anciens de Google, Katrin Tomanek et Alex Kauffmann, sous le nom de Squeez Labs, promet de révolutionner la façon dont nous interagissons avec les assistants vocaux. Le principe est simple : tournez une manivelle pour alimenter un assistant vocal complet, doté de reconnaissance vocale et de réponse intelligente, sans besoin de prise murale, de batterie ou de serveur distant. Le modèle est basé sur un Raspberry Pi 5, un ordinateur miniature qui coûte environ 80 euros, associé à un chargeur USB à manivelle de 20 watts et à une carte de condensateurs maison qui permet de conserver une réserve d’énergie de 20 secondes. L’équipe de Squeez Labs est convaincue que des modèles d’IA minuscules, privés et spécialisés peuvent répondre à une grande partie de nos besoins, sans nécessiter de datacenter ni d’abonnement, à condition d’accepter un matériel modeste.
Le fonctionnement de CrankGPT
Le fonctionnement de CrankGPT repose sur plusieurs éléments clés. Tout d’abord, le logiciel Moonshine est utilisé pour transcrire la voix de l’utilisateur, tandis que Piper répond avec une voix synthétique. Entre les deux, un modèle de langage Liquid LFM2, doté de 1,2 milliard de paramètres, fabrique les réponses. Ce modèle est de la même famille que ChatGPT, mais en version plus légère. Un Gemma 3 de Google s’occupe de la traduction, si nécessaire. Le système utilise le processeur du Raspberry Pi 5, sans puce d’accélération, et fonctionne sous Linux, avec un DietPi taillé au plus court, qui démarre en 3 secondes. Il faut ensuite 30 secondes pour que la conversation puisse commencer, et chaque réponse demande entre 0,8 et 2,9 secondes, selon le modèle chargé. La consommation d’énergie est également très faible, avec 4 watts au repos, 8 watts pendant la reconnaissance vocale et 15 watts lorsque le texte est affiché.
Les avantages de CrankGPT
Les avantages de CrankGPT sont multiples. Tout d’abord, la résistance de la manivelle varie en fonction de la charge de calcul, ce qui signifie que lorsque l’IA réfléchit, il est physiquement plus difficile de tourner la manivelle. Cela donne une sensation très concrète de l’inférence, ce moment où le modèle fabrique sa réponse. De plus, le système est conçu pour des usages très spécifiques, tels que la reconnaissance vocale des personnes avec un accent prononcé, ou une IA de jardinage ou de mécanique qui n’a pas besoin d’un centre de données entier. Le prototype coûte environ 300 dollars de matériel, contre 150 dollars pour la première version, et les plans et schémas doivent être publiés prochainement. L’agent vocal est déjà disponible sur GitHub, pour ceux qui souhaitent bricoler leur propre version.
Les perspectives de CrankGPT
Les perspectives de CrankGPT sont très prometteuses. Le système offre une solution innovante pour les régions où l’accès à l’énergie est limité, ou pour les personnes qui souhaitent réduire leur consommation d’énergie. De plus, le fait que l’IA soit privée et spécialisée signifie que les données sont traitées localement, sans besoin de serveur distant, ce qui améliore la sécurité et la confidentialité. Le système est également très éducatif, car il donne une sensation très concrète de l’énergie nécessaire pour faire fonctionner une intelligence artificielle. Enfin, le fait que le système soit open source signifie que les utilisateurs peuvent modifier et améliorer le code, ce qui pourrait conduire à de nouvelles innovations et applications.
Conclusion et verdict
En conclusion, CrankGPT est une innovation très prometteuse qui défie les conventions en matière de technologie et d’énergie. Le système offre une solution innovante pour les régions où l’accès à l’énergie est limité, ou pour les personnes qui souhaitent réduire leur consommation d’énergie. Les avantages de CrankGPT sont multiples, notamment la résistance de la manivelle qui varie en fonction de la charge de calcul, les usages spécifiques tels que la reconnaissance vocale des personnes avec un accent prononcé, et la sécurité et la confidentialité améliorées grâce à la privatisation des données. Le système est également très éducatif et open source, ce qui pourrait conduire à de nouvelles innovations et applications. En fin de compte, CrankGPT est une solution très intéressante pour ceux qui souhaitent explorer de nouvelles voies en matière de technologie et d’énergie.
