Patrocinando sqlite-vec para permitir aplicativos de IA locais mais poderosos – Mozilla Hacks

da Mozilla programa Builders anunciado recentemente apoia projetos que promovem a causa da IA ​​de código aberto. Nosso tema inaugural é “IA local”: aplicativos baseados em IA que podem ser executados inteiramente localmente em dispositivos de consumo, como desktops, laptops e smartphones. Estamos profundamente interessados ​​nesta área porque promove maior privacidade e controlo ao colocar a tecnologia de IA diretamente nas mãos dos utilizadores. Também democratiza o desenvolvimento da IA, reduzindo custos e tornando ferramentas poderosas acessíveis a desenvolvedores individuais e pequenas comunidades.

Como parte do Mozilla Builders, lançamos um acelerador que os desenvolvedores podem se inscrever para participar, mas, paralelamente, também recrutamos proativamente projetos específicos de código aberto que acreditamos terem o potencial de impulsionar a IA e que se beneficiariam do investimento, da experiência e do suporte da Mozilla. Nosso primeiro projeto Builders é arquivo de chamadaliderado pelo desenvolvedor de código aberto Justine Tunney. arquivo de chamada faz com que os LLMs abertos sejam executados rapidamente no hardware do consumidor diário, ao mesmo tempo que torna a IA de código aberto dramaticamente mais acessível e utilizável.

Hoje temos o orgulho de anunciar o próximo projeto Mozilla Builders: sqlite-vec. Liderado por desenvolvedor independente Alex Garciaeste projeto traz funcionalidade de pesquisa vetorial para o amado banco de dados incorporado SQLite.

Alex vem trabalhando nesse problema há algum tempo e acreditamos que sua abordagem mais recente terá um grande impacto ao fornecer aos desenvolvedores de aplicativos uma nova ferramenta poderosa para criar aplicativos de IA local.

“Estou muito animado para sqlite-vec ser um projeto Mozilla Builders”, disse Alex Garcia. “Eu me preocupo muito em construir software que seja fácil de começar e que funcione em qualquer lugar, uma característica obviamente compartilhada por outros projetos Builders como arquivo de chamada. As ferramentas de IA não são exceção – um banco de dados vetorial que funciona em qualquer lugar significa acesso mais equitativo para todos.”

Os bancos de dados vetoriais estão emergindo como um componente-chave da pilha de aplicativos de IA, suportando usos como geração aumentada de recuperação (RAG) e pesquisa semântica. Mas poucos dos bancos de dados disponíveis atualmente são projetados para uso no dispositivo, tornando mais difícil oferecer funcionalidades como RAG em aplicativos de IA local. SQLite é um banco de dados incorporado maduro e amplamente implantado – na verdade, está até integrado ao navegador Firefox da Mozilla.

A perspectiva de um SQLite habilitado para vetores abre muitas novas possibilidades para aplicações de IA executadas localmente. Por exemplo, imagine um chatbot que pode responder perguntas sobre seus dados pessoais sem permitir que um único byte desses dados saia da privacidade e segurança do seu laptop.

Estamos entusiasmados por trabalhar com Alex e apoiar seus esforços em sqlite-vec. Nós encorajamos você a acompanhe o andamento do projetoe Alex agradece suas contribuições. E Servidor Discord da Mozilla é um ótimo lugar para se conectar com Alex, a equipe Mozilla Builders e todos os outros membros de nossa crescente comunidade de profissionais de código aberto. Por favor, pare e apresente-se.