Avec MLC LLM, ChatGPT fonctionne sans Internet sur iPhone et Mac

Une nouvelle application pour ChatGPT vient de voir le jour. Pour se démarquer, MLC LLM vous permet d'utiliser l'IA sans connexion internet sur votre iPhone, iPad, Mac et autre PC, ce qui est une première à notre connaissance. Ce projet open-source n'en est qu'à ses débuts, mais il est très prometteur.

ChatGPT en local

Celui qui a été baptisé MLC LLM est signé de l'équipe MLC AI, qui a pris ChatGPT pour le faire fonctionner sur un appareil en local, sans connexion Internet. Actuellement disponible sur invitation via TestFlight, MLC LLM pèse 4 Go en version iOS. L'application est également disponible sur Windows, macOS et Linux, ainsi que sur une version web où vous pouvez l'essayer en mode démo.

Malgré sa promesse, les premiers tests de ChatGPT version MLC n'est pas plus rapide que ce que propose Petey et MacGPT. On imagine qu'une future mise à jour permettra d'accélérer le processus.

L'avantage de MLC c'est certainement son interface, aussi simple que possible avec une ergonomie rappelant iMessage d'Apple. Le seul problème c'est que la réponse se fait attendre de longs moments, parfois plus d'une minute. Si vous lui demandez de vous résumer un film ou de coder une petite application en Swift, vous aurez même le temps d'aller prendre un café au bistro du coin.

Si le principe est alléchant, l'exécution reste encore loin d'être parfaite. Mais il faut encourager ce genre d'initiative, car accéder à une intelligence artificielle générative sans connexion Internet est un progrès non négligeable, pour la confidentialité ainsi que l'environnement. Mais pour les performances, il faudra repasser. En attendant, rappelons que Petey ou même un simple raccourci ChatGPT font très bien l'affaire.