Mozilla.ai: a iniciativa da Mozilla para desenvolver uma inteligência artificial confiável e segura

A Mozilla, organização por trás do navegador Firefox, está completando 25 anos de sua existência e, como comemoração, ela revela seus novos planos para o futuro, que é focado no novo assunto do momento: Inteligência Artificial.

A empresa revelou que está lançando uma startup apenas focada no assunto, chamada de Mozilla.ai. Ela terá como objetivo principal criar uma solução de IA de código aberto que possa ser confiável e segura, de acordo com o presidente executivo da Mozilla, Mark Surman, que também se tornou chefe da Mozilla.ai.

Mozilla.ai teve investimento inicial de US$ 30 milhões

Em entrevista ao TechCrunch por e-mail, ele falou um pouco mais sobre a iniciativa e sobre os planos para a nova empresa.

“Trabalhando em IA confiável por quase cinco anos, sempre senti uma mistura de empolgação e ansiedade. Nos últimos dois meses de anúncios rápidos de IA de grande tecnologia não foi diferente. Uma nova tecnologia realmente empolgante está surgindo – novas ferramentas que imediatamente estimularam artistas, fundadores… todos os tipos de pessoas a fazer coisas novas. A ansiedade surge quando você percebe que quase ninguém está olhando para as grades de proteção.”

O executivo se refere principalmente a nova onda de modelos de IA que estão surgindo no mercado nos últimos meses que vem mostrando novas capacidades interessantes para a tecnologia, mas por outro lado também estão levantando discussões preocupantes para algumas pessoas.

O ChatGPT, por exemplo, é um dos principais e mais falados nos últimos tempos e tem levantado alguns perigos como por exemplo a possibilidade de alguém usar a ferramenta de geração de texto da OpenAI para escrever um malware ou até mesmo identificar falhas em código-fonte abertos.

Já os geradores de imagens a partir de textos, como o Stable Diffusion, levanta preocupações do tipo ser usado para criar imagens deepfakes pornográficas e não consensuais de pessoas, principalmente as públicas, ou até mesmo representações gráficas de violência.

Embora as empresas por trás dessas soluções sempre deixem claro que estão fazendo de tudo para que esses tipos de situações não aconteçam, Surman revela que a Mozilla não acha que estão fazendo o suficiente.

“Estamos trabalhando em IA confiável no lado da pesquisa de interesse público há cerca de cinco anos, esperando que outros players do setor com mais experiência em IA se aproximem para criar tecnologia mais confiável. Eles não têm. Então decidimos no meio do ano passado que precisávamos fazer isso nós mesmos – e encontrar parceiros com ideias semelhantes para fazer isso conosco. Em seguida, partimos para encontrar alguém com a combinação certa de experiência acadêmica e industrial em IA para liderá-lo.”

A Mozilla ai está sendo financiada diretamente pela Mozilla Foundation, que é a organização controladora da Mozilla. Esse investimento inicial na stratup foi de cerca de US$ 30 milhões. O diretor-gerente escolhido foi Moez Draief, que já tinha sido cientista-chefe do laboratório Noah’s Ark AI da Huawei e também da empresa de consultoria Capgemini.

Além de Surman, os outros membros iniciais do conselho da Mozilla.ai serão Karim Lakhani, presidente e cofundador do Digital, Data and Design Institute em Harvard e Navrina Singh, membro do Comitê Consultivo Nacional de IA do Departamento de Comércio dos EUA, que aconselha o presidente em uma série de questões éticas de IA.

Os planos iniciais incluem formar uma equipe de 25 engenheiros, cientistas e gerentes de produto para que eles possam começar a trabalhar com sistemas de recomendações confiáveis baseando-se nos modelos de lingaguem do GPT-4 da OpenAI. Porém, no futuro, o esperado é que a empresa possa estabelecer uma rede de empresas parceiras e aliadas e de grupos de pesquisas para que todos possam compartilhar a mesma visão.

“Acreditamos que existe um mercado comercial de IA confiável – e que esse mercado precisa crescer se quisermos mudar a forma como a indústria incorpora a IA aos aplicativos, produtos e serviços que usamos todos os dias. Mozilla.ai — trabalhando livremente com muitas empresas aliadas, pesquisadores e governos — [tem] a oportunidade de criar coletivamente uma pilha de IA de código aberto ‘confiança em primeiro lugar’. Se formos bem-sucedidos, o mainstream da indústria usará essa pilha como parte de seu kit de ferramentas regular, assim como fizeram com a pilha Linux e Apache nas últimas duas décadas.”

E diferente com o que acontece com o Mozilla Corporation, o Mozilla.ai não será uma organização sem fins lucrativos. Embora ela ainda permaneça vinculada aos princípios éticos do Mozilla Manifesto, ela estará aberta para se expandir para mais produtos e empresas, além dos projetos de código aberto.

Durante os próximos meses, a startup vai focar no desenvolvimento de ferramentas que pesquisa, que são as que estão em alta atualmente com seus recursos de IA. Só que no caso do Mozilla.ai, sua solução deverá trazer alguns recursos como por exemplo a opção para que o usuário pergunte as fontes por trás das respostas dadas pelos chatbots.

Eles também querem garantir um maior controle do usuário em relação a recomendação de conteúdos. A promessa é que a stratup envie um código ainda este ano, porém é só o começo, e o processo todo ainda pode levar mais alguns anos. E o sucesso dessa empreitada vai depender não apenas do tempo e sim da capacidade da Mozilla.ai de convencer a indústria de que sua solução de IA é de fato confiável e correta.

“Recursos de IA confiáveis como esses parecem triviais de adicionar – mas ainda os vemos principalmente no laboratório. O Mozilla.ai trabalhará com pesquisadores para transformar seu trabalho em código funcional e possibilitar o uso em conjunto com ferramentas de IA mais tradicionais”.

Fonte: techcrunch