A inteligência artificial empresarial está a mudar de escala. Depois de uma primeira vaga
em que muitos sistemas de inferência foram desenhados para dispositivos de edge, a
procura começa a estender-se a servidores capazes de executar modelos maiores dentro
da infraestrutura controlada pelas próprias organizações. A Axelera AI apresentou o Europa
precisamente para esse espaço. O novo processador pretende transportar a arquitetura da
empresa para cargas mais exigentes em centros de dados e sistemas empresariais,
mantendo a inferência como foco principal.
A Europa aumenta a capacidade da arquitetura
A Axelera apresenta o Europa como a segunda geração da sua arquitetura de
processamento de IA. A configuração publicada inclui oito núcleos de processamento de IA,
16 núcleos vetoriais RISC-V e suporte para diferentes formatos numéricos usados em
inferência. A empresa anuncia até 629 TOPS por chip e um TDP de 45 watts para a placa
de referência.
A apresentação oficial da Europa confirma também sistemas validados com parceiros como
Dell e Supermicro. Mais importante do que um único número é a mudança de destino. O
produto procura sair do edge mais limitado e entrar em infraestruturas onde vários modelos
e fluxos de dados podem coexistir.
A inferência local ganha importância
Treinar grandes modelos continua a exigir enormes quantidades de computação, mas a
utilização diária desses modelos depende de inferência.
É nesse momento que uma organização transforma uma pergunta, uma imagem ou um
conjunto de dados numa resposta do modelo. Para muitas empresas, executar esta fase na
própria infraestrutura pode oferecer maior controlo sobre a latência, integração e localização
dos dados.
Esta necessidade de capacidade computacional também está presente na Agenda Nacional
de Inteligência Artificial, que inclui Infraestrutura e Dados entre os seus quatro eixos de
atuação e prevê o desenvolvimento de capacidade computacional estratégica em Portugal.
Isso não significa que todos os sistemas precisem de processamento local. A nuvem
continuará a ser adequada para muitas cargas. O que muda é o número de opções
disponíveis para empresas que precisam de decidir onde cada modelo deve funcionar.
Projetos de inovação industrial ligados à inteligência artificial mostram como a IA está a
aproximar-se cada vez mais de ambientes de produção e processos empresariais
concretos.
Uma infraestrutura pode servir aplicações muito diferentes
Um acelerador de inferência não pertence a um único setor. A mesma base de hardware
pode suportar visão computacional, robótica, análise documental, sistemas de pesquisa e
ferramentas de apoio ao cliente. Pode também aparecer por trás de serviços digitais em
áreas muito diferentes, incluindo interfaces relacionadas com poquer, desde que o software
e os controlos sejam desenvolvidos para essa aplicação específica.
O ponto comum é a necessidade de executar modelos com rapidez e de movimentar dados
entre memória, processador e aplicação de forma eficiente. Essa flexibilidade ajuda a
explicar porque é que os fabricantes falam cada vez menos de uma única tarefa e mais de
plataformas para diferentes cargas de inferência.
O desafio passa do chip para o sistema
Um processador potente não resolve sozinho a adoção empresarial de IA. As organizações
precisam de ferramentas de desenvolvimento, compatibilidade com modelos, monitorização,
segurança, refrigeração e integração com o hardware já instalado. É por isso que o
ecossistema anunciado em torno do Europa pode ser tão relevante como as especificações
do próprio chip.
A competição no mercado de aceleradores também significa que o desempenho teórico, o
consumo e o preço terão de ser avaliados em cargas reais. A Europa chega, assim, num
momento em que a discussão sobre IA deixa de estar centrada apenas no tamanho dos
modelos. A questão empresarial torna-se mais prática. Onde deve funcionar o modelo,
quanto custa operá-lo e que infraestrutura permite integrá-lo sem reconstruir todo o
sistema? https://www.ovarnews.pt/novo-chip-europeu-quer-levar-inteligencia-artificial-avancada-aos-servidores-empresariais/
Sem comentários:
Enviar um comentário