Sistemas de Aprendizado de Máquina e Inferência

Sistema de Servidor de Aprendizado de Máquina

Aplicação

Soluções para sistemas de aprendizado de máquina

Soluções de conectividade de alta velocidade e energia para sistemas de aprendizado de máquina e inferência.

Leia insights sobre aprendizado de máquina em arquiteturas de dados

Nosso mundo está mais conectado do que nunca com bilhões de dispositivos IoT na borda coletivamente gerando uma tremenda quantidade de dados. Insights sobre esses dados mudam a maneira como fazemos negócios, interagimos com as pessoas e vivemos nossas vidas diárias. A geração desses insights ocorre processando os dados através de redes neurais para reconhecer padrões e categorizar as informações. Uma vez treinada a rede neural, o modelo pode ser implantado para processar e analisar novos dados. Isso é comumente conhecido como inferência. Reconhecimento de fala, detecção de objetos, classificação de imagens e personalização de conteúdo e mecanismos de recomendação são aplicações cotidianas que podem tirar proveito da inferência.

Os usuários finais exigem insights em tempo real nessas aplicações, levando a inferência a ocorrer em dispositivos móveis e no limite. Os diferentes tipos de acelerador de hardware, como FPGAs, GPUs e ASICs, são usados para classificar e caracterizar os dados. Cada um desses dispositivos difere no processamento de potência e consumo de energia, com cada um tendo benefícios dependendo da carga de trabalho. Alguns desses dispositivos são aproveitados tanto para treinamento quanto para inferência, enquanto alguns são dedicados a qualquer um deles.

As FPGAs (Field Programmable Gate Arrays – Matrizes de portas programáveis em campo) são comumente usadas para acelerar os processos de rede e armazenamento e para descarregar essas tarefas da CPU.
As GPUs (Graphics Processing Units, Unidades de processamento gráficas) foram projetadas para lidar com tarefas simultâneas e podem processar grandes conjuntos de dados de forma mais eficiente do que as CPUs.
Circuitos integrados específicos da aplicação, ou ASICs, são processadores projetados em torno de cargas de trabalho ou tarefas específicas para permitir a eficiência energética ideal.

Os aceleradores de hardware são frequentemente conectados a outros dispositivos de computação e armazenamento, agrupados em grandes tecidos e conectados à rede maior. As conexões de rede podem aproveitar protocolos como Ethernet e InfiniBand, que normalmente usam fatores de forma de E/S de alta velocidade, como OSFP e QSFP-DD. O PCIe é aproveitado para conectar dispositivos de armazenamento, placas de interface de rede (NICs) e aceleradores de hardware à CPU. A família de conectores e cabos Sliver da TE é compatível com a especificação SFF-TA-1002 e permite que esses dispositivos se conectem e operem nas velocidades PCIe Gen 5 e Gen 6.

O Compute Express Link (CXL) e o Gen-Z estão surgindo e rapidamente adotaram protocolos que visam remover o gargalo de memória, permitindo a memória coerente do cache. Isso ajuda a impulsionar novas arquiteturas, criando a necessidade de tecidos PCIe externos que usam produtos de conectividade como CDFP e Mini-SAS HD.

O conector de backplane e o sistema de cabos STRADA Whisper de alta velocidade da TE podem permitir a modularidade do sistema oferecendo uma conexão de acoplamento cego a velocidades PAM-4 de 112 Gbps.

A=o apresentador C=Chris Blackburn

Bem-vindos ao Connected World, um podcast para os engenheiros que querem saber mais sobre as principais tendências influenciando as tecnologias e o mundo conectado e transformando o impossível de hoje no incrível do amanhã.

A: Olá, bem-vindos ao CONNECTED World, um podcast da TE Connectivity. Sou Tyler Kern, seu apresentador hoje. Ouvimos muita coisa sobre tecnologias emergentes como a inteligência artificial. Mas o que é exatamente IA? Como ela já afeta nossas vidas? O que ela fará no futuro? Hoje estamos recebendo no podcast Chris Blackburn. Ele é tecnólogo na equipe de arquitetura de sistemas da TE Connectivity. Chris, muito obrigado por estar aqui comigo hoje.

C: Obrigado, Tyler, obrigado por me receber.

A: É uma grande satisfação. Chris, vamos começar com o básico. Como você define a inteligência artificial e o que ela faz?

C: A IA está em todos os lugares do mundo ao nosso redor. Acho que a maioria das pessoas está familiarizada com coisas como a assistência de voz, a Alexa e Siri em casa. E, claro, à medida que entramos nas mídias sociais, recebemos constantemente conteúdo que é selecionado para nós. Vemos os produtos em que já clicamos ou pesquisamos há algum tempo. Então, a IA está completamente incorporada a esses reinos. Na verdade, ela é uma maneira utilizada pelas máquinas para aprender e gerar dados sozinhas, daí aprender nossos comportamentos e fornecer os dados que queremos. E há muitas aplicações diferentes por aí, um monte de coisas legais acontecendo na área.

A: Você mencionou os dispositivos inteligentes domésticos. Acho que eu não conseguiria cozinhar sem home display do Google que temos na nossa cozinha. Com certeza, a IA está em todo lugar. Isso é um ponto importante. Minha próxima pergunta tem duas partes. A IA tem sido utilizada principalmente para quê? E quais aplicações emergentes você está vendo na área?

C: Alguns desses principais casos de uso estão realmente no marketing, novamente, para garantir que os produtos em que estamos interessados cheguem a nós, consumidores. Então, se eu compro um produto na Amazon, ela aprende meu histórico de compras e pode fazer sugestões futuras sobre produtos. Por exemplo, você talvez veja outros consumidores comprando porque você comprou determinado produto. Então, eu acho que, com relação a isso, os mecanismos de recomendação são um dos principais casos de uso. Uma das mudanças que vemos por aí, porém, e alguns aspectos interessantes, são em ambientes que eu chamo de remotos e hostis, até mesmo em aplicações que exigem extrema privacidade de dados. Coisas como exploração de petróleo e gás, mineração e extração de recursos naturais, e coisas realmente importantes como agricultura, produção de alimentos, acesso à água e controle de esgoto.

A: Isso é muito interessante. Ouvi algo sobre a IA uma vez e fiquei curioso para saber se aquilo estava certo ou não. Já ouvi dizer que a qualidade da IA depende dos dados que você coloca nela. Isso é verdade? Você poderia explicar como a IA se constrói e como funciona?

C: É claro. Quando alimentamos uma rede neural com dados. Chamamos isso de aprendizado ou treinamento de máquina, e é a mais pura verdade afirmar que os dados que entram são realmente o que precisamos usar para treinar os modelos. Se seu conjunto de dados for pequeno ou ruim, seus modelos não serão muito bons. Mas uma das coisas interessantes é que treinamos esse modelo, e então o implantamos aos casos reais de uso. Isso é o que chamamos de inferência. Agora que esse modelo está treinado, posso apresentar novos dados a ele e, a partir destes, ele infere informações dos dados que tinha, que é o que esperaria ver. A coisa mais interessante da IA é o que esse ciclo não é de mão única. É um ciclo que se repete. Como a IA faz inferências a partir de novos dados, estou constantemente construindo e compilando meu conjunto de dados. Então, quanto mais usamos recursos como esse, quanto mais coisas eu peço à Alexa, mais inteligente ela fica. Isso é a essência do aprendizado de máquina.

A: Isso é muito interessante. Assim, à medida que sua amostra vai ficando maior e mais ampla com mais dados coletados, ela fica mais inteligente e talvez passe a fornecer recomendações melhores ou a apresentar melhores conclusões, com base no fato de você está dando a ela mais informações, que ela é capaz de absorver e tomar decisões mais inteligentes.

C: Sim, com certeza. Sabe, isso é ótimo. Conseguimos modelos mais precisos, mas também há desafios que vêm com isso: onde e como armazenar essa enorme quantidade de dados, como transferir isso dos data centers de borda e data centers tradicionais na nuvem. Essa enorme quantidade de dados que está sendo gerada. No passado, há uns 10, 15 anos, grande parte dos dados criados no mundo eram gerados por humanos, dados de entrada, de nossos teclados, gravações, filmes e coisas do tipo. Agora estamos entrando na era dos dados gerados por máquinas. É simplesmente uma explosão de dados, o que certamente influencia como estamos construindo as arquiteturas de sistemas e lidando com isso agora.

A: Com certeza. Então, fale um pouco sobre os esforços que estão sendo feitos com relação ao hardware, porque parece que os avanços estão acontecendo aí também.

C: Com certeza. Acho que uma das coisas principais nisso é a migração da computação, armazenamento e os aceleradores de IA para a fonte dos dados. No geral, temos os grandes data centers. Fixamos essa rede e esses dados ficam se movendo entre ou dentro desses data centers. Agora estamos começando a ver esses recursos de computação e de armazenamento se aproximar de onde as pessoas e as máquinas estão gerando os dados. É essa convergência que chamamos de edge computing com a IoT, ou Internet das Coisas, end-points, dispositivos. O 5G tem sido um fator preponderante na transmissão desses dados através dessas redes recém-definidas.

A: O nome do podcast é Connected World, certo? Ouvimos tanto sobre o 5G e como ele vai mudar o mundo e como ele vai permitir o compartilhamento livre de dados e taxas muito mais rápidas e esse tipo de coisa. Como o 5G impacta o desenvolvimento da IA e o crescimento dela em uma escala mais ampla?

C: Falamos sobre o ciclo repetitivo de treinamento de modelos e sobre a inferência e a implantação deles. Quando olhamos para o 5G, agora existe a comunicação de altíssima velocidade bem na fonte de dados, das coisas e a partir delas. Então, coisas como a assistência de voz sobre que falamos ou todos os aplicativos em smartphones, desde pesquisa e social, e todas essas coisas, vão apresentar respostas mais rápidas em tempo real. As pessoas não têm mais paciência para esperar mais de dois segundos por uma informação. E essa informação precisa ser sob demanda. O 5G é o facilitador-chave para fazer essa comunicação da forma mais rápida possível.

A: Chris, na sua opinião, com quais desafios gerados pelas tendências mais atuais na IA e aprendizado de máquina os engenheiros se deparam? Em que os engenheiros estão realmente trabalhando e quais obstáculos talvez precisem ser superados à medida que continuam a trabalhar no campo da IA e da aprendizagem de máquina?

C: Vamos começar com a energia. Energia é, entre outros, um recurso finito. Quando olhamos para a pegada de um data center na nuvem, apenas uma quantidade limitada de energia pode chegar às instalações e ser consumida. Então, no momento, esses data centers não são tão sustentáveis quanto gostaríamos que fossem. Então há uma tendência de data centers sustentáveis que funcionem com energia renovável. Olhando para as formas de IA, dispositivos específicos, sejam eles GPUs ou ASICs diferentes, vemos que há uma grande demanda de energia, já que eles consomem muito. Então, temos essa limitação de energia, assim como em seu fornecimento. Com relação ao chip, é necessário garantir que essas GPUs e ASICs sejam eficientes em termos energéticos. Essa é certamente uma área bastante desafiadora para a qual a comunidade de engenharia está empenhada em buscar soluções. No outro lado, temos a escalabilidade. Falei sobre todos esses diferentes sites finais, data centers de borda, data centers na nuvem; mas, como dimensionamos esses sistemas em grande escala? E, aí, pensamos em empresas como a Microsoft, Amazon, Facebook e Google. Chamamos isso de hiperescala. A infraestrutura dessas empresa é simplesmente gigantesca. Quando eu vou da pilha mecânica das placas de circuito, servidores, cabos, conectores, como faço para integrar tudo isso de uma forma que faça sentido? O dimensionamento desses data centers e sistemas já é um enorme desafio.

A: Com certeza. Quais avanços na IA você está ansioso para ver? Conforme as coisas continuam avançando, o que deixa você animado atualmente?

C: Acho a área da saúde algo extraordinário, coisas como a telemedicina e check-ins regulares na população de idosos. Os médicos podem analisar raios-X ou identificar diversos tipos de câncer apenas através da análise de imagens. Isso se trata de uma necessidade inteiramente humana. A IA pode ajudar a população humana a viver mais, com mais saúde. Mencionei anteriormente coisas relacionadas à produção de alimentos, acesso à água e coisas do tipo. Mas, claro, também há um lado divertido. Todos temos filtros no Instagram ou Snapchat. Eles são resultado direto da IA. Pegue como exemplo a classificação de imagem e coisas do tipo. Tenho uma história engraçada sobre isso. O Google tem um produto chamado Arts and Culture. Você pode tirar uma foto de si mesmo e fazer upload dela. Clusters de TPU analisam essa imagem. Eles combinam essa imagem com uma correspondente de uma pintura do Renascimento. A foto do meu rosto foi combinada com um retrato de Simon George da Cornualha, que foi pintado nos anos 1400. Agora uso essa miniatura em todas as comunicações business to business, como as do Microsoft Teams, Skype, entre outras. Acho isso muito engraçado.

A: Que incrível! Você também tem uma barba no mesmo estilo de Simon George da Cornualha?

C: Sim, a mesma barba, impecável, e o mesmo chapéu.

A: Ah, e o mesmo chapéu, que ótimo. Você precisa completar o look: deixar tudo redondo. Quando você estava falando sobre os principais players em IA, um dos nomes que você mencionou, e foi meio um destaque para mim, porque destoou dos outros, foi a BMW. A IA pode e vai desempenhar um papel importante quando o assunto é, digamos, veículos autônomos no futuro?

C: Falo sobre esses grandes conjuntos de dados complexos, e você sabe que a qualidade do modelo depende da qualidade dos dados inseridos e utilizados para o treinamento. A Nvidia mergulhou de cabeça na iniciativa de avanço de carros sem motorista e autônomos. Mas, claro, há os fabricantes de automóveis como BMW, Toyota, tanto de veículos de luxo como padrão. Na minha opinião, o que estamos vendo é que essas tecnologias saem dos data centers e realmente chegam aos carros. Quando olhamos para o que há nos carros agora, vemos uma variedade de sensores, câmeras e coisas do tipo. Quando olho para a quantidade de dados coletada por um veículo, um carro sem motorista, por exemplo, são volumes absurdos. Recentemente, a Nvidia mostrou alguns números que giravam em torno de 400 petabytes de dados brutos com 100 veículos por ano. Quando olhamos para a segurança e como vemos esses veículos autônomos, queremos colocá-los em todos os cenários possíveis: acelerar ao sair de um cruzamento sem visão, ou colocar um pedestre no caminho, e ver como esse veículo reage. Quanto maior o número de situações a que ele é exposto, melhor será o treinamento e sintonia desses modelos, que são soluções seguras e confiáveis para o transporte.

A: Você pode dar alguns exemplos de como isso vai mudar nossas vidas ou o mundo que conhecemos? Você mencionou os cuidados de saúde. Isso é obviamente um grande exemplo, assim como a produção de alimentos e coisas nessa linha. Mas como nossas vidas serão diferentes em dez anos por causa do crescimento da IA?

C: Eu mencionei alguns desses campos principais. Falamos um pouco sobre transporte. Outra área é a financeira. Então, onde devemos guardar nosso dinheiro para a aposentadoria e como as alocações devem ser reajustadas? O setor de fintech está em franca expansão e tentando tomar essas decisões em tempo real. Como lidar com nosso dinheiro? Então, na verdade, o impacto da IA será sentido em todos os campos, desde a fabricação ao transporte e setor farmacêutico. Se olharmos as pesquisas e identificação de medicamentos. Agora posso iterar rapidamente inúmeras combinações possíveis diferentes e avançar para as novas soluções muito rápido. É como no ditado "se falhar muitas vezes, falhe rápido". Acho que ela vem com tudo nessa área.

A: Minha última pergunta é um tanto egoísta: quero saber se a IA pode me ajudar com meu próximo draft do Fantasy Football.

C: Acho que sim. Elas talvez não estejam certas, mas, com base nas escolhas dos outros, ou, vamos dizer, na escolha do vencedor do ano passado, basta você copiar essas escolhas.

A: Que bom. Preciso de toda ajuda possível nesses dias. Tenho que manter minha reputação com meus amigos.

C: Com certeza.

A: Excelente. Chris Blackburn. Ele é tecnólogo na equipe de arquitetura de sistemas da TE Connectivity. Chris, muito obrigado por sua participação aqui hoje e por falar um pouco sobre algumas das aplicações de IA, onde as coisas estão se movendo para o futuro, e dar para a gente uma ampla visão geral do setor e do que está acontecendo. Agradecemos a sua participação.

C: Foi muito divertido.

A: Com certeza. Para mim também. Espero que todos tenham gostado deste episódio. É claro, este é o podcast Connected World. Um podcast da TE Connectivity. Se você ainda não se inscreveu no Apple Podcast ou Sportify, não deixe de se inscrever, para se manter atualizado com tudo o que está acontecendo com as tecnologias em evolução no mundo conectado. E, claro, estaremos de volta em breve com mais episódios no podcast. Mas até lá, um abraço do seu apresentador de hoje, Tyler Kern. Obrigado por ouvir.