@dev.ao.cubo
Um modelo de IA de 2,78 trilhões de parâmetros rodando sem placa de vídeo nenhuma, só na RAM que sobra no seu note — e essa é só a primeira ferramenta dessa lista.

Um modelo de IA de 2,78 trilhões de parâmetros rodando sem placa de vídeo nenhuma, só na RAM que sobra no seu note — e essa é só a primeira ferramenta dessa lista.

Ferramentas
ggml-org/llama.cppRoda modelos de linguagem gigantes no seu computador comprimindo os pesos pra caber em poucos gigabytes de RAM. Serviços de IA na nuvem cobram por token pra fazer a mesma coisa.⭐ 126,7k
ggml-org/whisper.cppTranscreve sua voz em texto direto no computador, sem enviar áudio pra nenhum servidor. Apps de ditado por assinatura cobram mensalidade pelo mesmo reconhecimento de voz.⭐ 53,4k
BuilderIO/ai-shellConverte uma frase em linguagem natural no comando de terminal certo, sem precisar decorar sintaxe. Copilots de terminal pagos cobram assinatura por exatamente esse atalho.⭐ 5,3k
nomic-ai/gpt4allBaixa e roda modelos de linguagem completos no seu computador, com interface de chat pronta e sem precisar de GPU. Assistentes de IA em nuvem cobram assinatura mensal pelo mesmo bate-papo.⭐ 77,4k
mozilla-ai/llamafileEmpacota um modelo de IA inteiro num único arquivo executável que roda em qualquer computador, sem instalar nada. Plataformas de IA hospedada cobram por uso pra rodar o mesmo modelo.⭐ 25,8k

Veja também

A OpenAI construiu um chip só pra pensar mais rápido — e gastando menos energia
A OpenAI construiu um chip só pra pensar mais rápido — e gastando menos energia
Amazon: a real sobre Nova Micro
Amazon: a real sobre Nova Micro
Um microfone que sabe o nome das suas variáveis antes de você terminar de falar
Um microfone que sabe o nome das suas variáveis antes de você terminar de falar
IA escreve o código. Isso ainda é engenharia?
IA escreve o código. Isso ainda é engenharia?

Mais em Ferramentas

Seguir @dev.ao.cubo← Página principal