Agentes de IA: Você realmente confia neles?

Agentes de IA: aliados ou ameaças?

Pense duas vezes antes de entregar todos os dados sensíveis a eles.

Afinal, quem está no controle?

Agentes de IA e as próximas máquinas que decidirão por você…

A IBM define os Agentes de IA como sistemas que podem executar tarefas de forma autônoma, criando seus próprios fluxos de trabalho e usando as ferramentas disponíveis.

Mas será que você realmente confia neles para isso?

Cole Stryker, da IBM, afirma que esses sistemas têm uma “agência” para tomar decisões, resolver problemas complexos e interagir com ambientes externos, indo além dos dados que os moldaram.

É tipo um deus digital, neh?

Para Subhendu Pattnaik, analista da Forrester, os Agentes de IA são a próxima grande novidade da IA generativa.

Ele sugere que dar mais autonomia à IA pode mudar as operações comerciais.

Ou será que tudo isso é só uma desculpa para automatizar tudo e deixar os humanos de lado?

Pattnaik afirma que esses agentes criam um caminho para alcançar metas mais arrojadas.

Implementá-los em diversas funções de marketing pode até impulsionar a inovação e a eficiência…

Mas será que não estamos apenas trocando um chefe humano por uma máquina?

A boa e velha eficiência operacional

Bhaskar Roy, da Workato, acredita que os Agentes de IA podem melhorar a eficiência operacional e a produtividade dos funcionários, agindo como gêmeos digitais.

Isso ainda parece meio utópico…

Mas o que acontece quando a máquina se torna seu colega de trabalho?

Ele aponta que esses agentes podem facilitar desde a implantação dos softwares até a resolução de problemas dos clientes usando linguagem natural.

Mas e as vendas?

Eles orquestram o processo de vendas com conhecimento profundo do que acontece nos bastidores.

Roy descreve esses agentes como “especialistas de domínio” que conhecem os processos de negócio e podem agir com mais autonomia.

Isso é ótimo.

Mas quem realmente está no controle da situação?

Esses agentes também possuem raciocínio e capacidades colaborativas para lidar com processos complexos.

Mas será que é isso mesmo que queremos?

Um assistente digital que decide por nós, com toques de supervisão humana?

O futuro parece lindo, mas a responsabilidade ainda é nossa…

Como adotar um agente de IA?

Roy destaca três elementos relevantes para adotá-los na sua organização:

• bases de conhecimento para que os agentes encontrem informações relevantes;
• uma plataforma de integração institucional para conectar várias aplicações e fontes de dados; e
• uma segurança forte para garantir que as pessoas acessem apenas o que devem.

Roy reforça que, ao adotar sistemas de IA autônomos, você deve considerar pessoas, processos e tecnologia.

As lideranças precisam estar alinhadas com as iniciativas de IA para que a implementação não ocorra aos trancos e barrancos.

E isso não é só uma modinha; é uma necessidade.

Ele sugere equipes multifuncionais com especialistas em IA e no negócio para supervisionar a implementação.

É isso mesmo: sem a colaboração de todos, a transformação digital pode ser um fiasco.

Investir em gestão de mudanças é relevante também.

Treinamento e suporte aos funcionários é o mínimo para que eles aprendam a trabalhar “colaborativamente” com os agentes de IA.

Sem isso, é como dar uma Ferrari para alguém não sabe dirigir.

Roy recomenda que as organizações tenham uma estratégia clara para a implementação dos agentes de IA.

Não podemos nos esquecer também da governança de dados para garantir qualidade, privacidade e conformidade das informações.

Revisar os processos existentes vai ajudar na identificação de onde cabe ou não a automação.

Perdendo os cabelos e aumentando a ansiedade…

Roy reconhece que as preocupações sobre a introdução de agentes de IA são compreensíveis, afinal, eles ainda são novidade.

O medo de perder o controle e a imprevisibilidade das respostas são problemas reais.

Qual é a solução, então?

Uma abordagem baseada em habilidades específicas e diretrizes claras para garantir que os agentes atuem apenas no que foram programados.

A redução dos vieses e questões de justiça também exigem uma gestão de dados mais forte e práticas de auditoria com uma certa regularidade.

E sim, as pessoas estão preocupados com a perda dos seus empregos…

Não basta apenas dar enxurradas de treinamentos sobre como usar os agentes de IA a seu favor.

Roy ressalta que uma gestão eficaz dos dados e a compreensão dos processos organizacionais são habilidades relevantes para facilitar a implementação da IA.

Se as preocupações forem abordadas de bate pronto, as vantagens da IA para os trabalhadores e a sociedade podem ser realistas.

Os impactos no longo prazo

“O objetivo do agente de IA é, em grande parte, simplificar fluxos de trabalho e aumentar a eficiência da força de trabalho”, palavras do Roy.

Ao automatizar as tarefas repetitivas, a IA autônoma libera o tempo dos funcionários para a inovação e para a criatividade.

Eu acho que não é tão lindo assim não…

Ele acrescenta que a colaboração entre humanos e IA pode aumentar a eficácia operacional e a maior demanda por habilidades técnicas como ciência de dados.

“As empresas que abraçarem a IA e se adaptarem às tecnologias em mudança ficarão à frente da concorrência.”.

Isso parece papinho de guru que quer te vender mentorias por um preço absurdo…

Temos que levar em conta também os avanços tecnológicos, políticas governamentais e impactos na sociedade.

Agentes de IA e as considerações de governança

Indo um pouco mais a fundo…

Agente de IA é um sistema que decide com uma certa autonomia e se adapta às entradas variadas sem precisar de muita supervisão dos humaninhos.

Esses sistemas se diferenciam de outras IAs pela capacidade de tomar decisões independentes e de ajustar iterativamente suas abordagens para alcançar os objetivos.

Os sistemas agentes existem em um espectro de autonomia.

Entender esses níveis é relevante para decidir como governá-los, desde IAs não agentes até sistemas totalmente autônomos.

A implementação de Agentes de IA exige conformidade regulatória, salvaguardas éticas e transparência.

Os agentes de IA estão na boca de todos os “especialistas do Linkedin”, mas quando você pede uma definição clara, quase todos saem pela tangente…

O que diabos é o agente de IA?

Agentes de IA são sistemas que atuam com autonomia.

Eles podem tomar decisões para atingir objetivos específicos com base nos dados de entrada.

O termo “agente” vem da capacidade desses sistemas de agir de forma independente e fazer escolhas conforme necessário.

Esses sistemas se adaptam às circunstâncias e aos dados que mudam.

Na teoria, eles tomam a melhor decisão sem depender da supervisão humana.

Como funcionaria um agente de IA bem autônomo na prática?

Imagine que você trabalha para uma grande rede de calçados e é responsável pela logística.

Um agente de IA autônomo poderia gerenciar o estoque e prever a demanda dos produtos com base nos dados das vendas em tempo real e fatores externos como tendências econômicas ou sociais.

Ele poderia ajustar os níveis de estoque, fazer pedidos aos fornecedores e otimizar as rotas de entrega.

Tudo sem intervenção humana.

Os agentes de IA existem em um certo nível de autonomia.

Este exemplo acima é de um agente bem autônomo.

Mas existem outros sistemas com autonomia limitada que também se classificam como agentes de IA.

Qual é a diferença entre agente de IA e IA regular?

Os sistemas agentes ajustam suas abordagens de forma dinâmica e autônoma para atingir metas, enquanto a IA regular não faz isso por falta de autonomia.

IAs não agentes incluem modelos preditivos e generativos sem autonomia.

Esses sistemas aprendem regras a partir dos dados, mas não tomam decisões sozinhos.

Como um Agente de IA e uma IA regular cuidariam da logística?

IA regular

Um sistema tradicional poderia gerar previsões de demanda ou sugerir níveis ótimos de estoque com base nos modelos predefinidos, mas ainda assim precisaria de um humano para agir.

Por exemplo, uma IA regular poderia avisar o gestor quando a demanda por um certo modelo de sapato aumentasse, mas caberia ao humano tomar a iniciativa de fazer o bendito pedido.

Agente de IA

Já um agente de IA conseguiria de avaliar sozinho a situação do estoque, decidir quanto é necessário, fazer pedidos aos fornecedores, redirecionar as demandas e até ajustar os preços se fosse preciso.

Enquanto a IA regular “dá dicas”, o agente de IA faz o trabalho sujo.

Mas de novo, eu insisto na pergunta…

Estamos prontos para deixar as máquinas tomarem decisões por nós?

E qual é a diferença entre agente de IA e IA generativa?

Agente de IA e IA generativa (GenAI) são ramos distintos da inteligência artificial.

A IA generativa serve para criar conteúdo novo em diversos formatos, como texto, imagens, música e até código.

Ela é boa para brainstormings, construção de narrativas e geração de soluções ‘inéditas’.

Mas, a IA generativa depende de inputs humanos para entender o contexto e os objetivos do que está criando.

Já a agente de IA é mais ativa

Ela vai além da criação de conteúdo.

Ela capacita sistemas autônomos para tomarem decisões e agir com independência.

Esses sistemas conseguem analisar situações, formular estratégias e executar ações para alcançar metas específicas.

Tudo com pouca ou nenhuma intervenção humana.

Eles são projetados para operar sozinhos, adaptando-se aos ambientes em mudança e aprendendo por reforço com suas experiências.

Enquanto a IA generativa foca em criar, o agente de IA foca em fazer.

O output da IA generativa é o conteúdo novo, enquanto o do agente de IA é uma série de ações ou decisões.

As duas podem trabalhar juntas para criar soluções que combinam criatividade e ação.

Por exemplo, um modelo de IA generativa poderia criar textos de marketing, enquanto um sistema de agentes de IA poderia publicar esse conteúdo nos redes sociais.

Como os LLMs contribuíram para o hype dos agentes de IA?

A introdução de LLMs como GPT-3 e GPT-4 mudou muito os rumos das IAs.

Esses modelos, treinados em enormes conjuntos de dados, mostraram a capacidade da IA de compreender e gerar texto parecidos com os dos humanos.

Considere os LLMs como o cérebro por trás do agente de IA.

Eles fornecem a base para a compreensão da linguagem natural, permitindo que os agentes de IA interpretem instruções complexas, participem de conversas e até gerem conteúdo criativo.

Essa capacidade aprimorada de linguagem permite uma interação mais intuitiva com os usuários, criando novas oportunidades para colaboração e resolução de problemas.

Além disso, os LLMs permitem que o agente de IA raciocine e tome decisões com base nas informações que processa.

Analisando grandes volumes de dados e identificando padrões, esses agentes conseguem gerar insights, fazer previsões e tomar ações que se alinham com os objetivos predefinidos.

Essa capacidade de pensar e agir de forma autônoma é uma característica fundamental do agente de IA, diferenciando-o das tecnologias de automação tradicionais.

Como o machine learning contribuiu para o ‘nascimento’ dos agentes de IA?

Esses sistemas podem aprender com grandes quantidades de dados, aprimorando suas habilidades e tornando-se mais adaptáveis às novas situações.

Essa mudança abriu caminho para uma automação mais dinâmica das soluções de IA.

Um exemplo é o aprendizado por reforço, um tipo de aprendizado em que agentes autônomos aprendem interagindo com o ambiente e recebendo feedback.

Essa abordagem foi fundamental para capacitar os agentes de IA na tomada de decisões mais complexas.

Aprender com erros e acertos permite que esses sistemas otimizem suas ações para alcançar objetivos específicos, mesmo em ambientes bem voláteis.

Quais inovações induziram o uso de agentes de IA nas organizações?

A integração de ferramentas de IA com sistemas empresariais já existentes foi um marco.

Isso permitiu que agentes autônomos acessassem várias fontes de dados corporativos.

Desde sistemas de CRM até ferramentas de gestão de recursos humanos.

Conectar sistemas diversos e eliminar silos de dados oferece ao agente de IA uma visão holística do negócio.

Os avanços na computação em nuvem também ajudaram os agentes de IA.

Plataformas como Microsoft Azure e Amazon Web Services (AWS) dão a potência computacional e a capacidade de armazenamento necessárias para treinar e implementar os modelos complexos de IA.

A criação de soluções de automação impulsionadas por IA, como a UiPath Business Automation Platform™, acelerou ainda mais essa adoção.

Essas plataformas oferecem um conjunto abrangente de ferramentas que simplificam o design, desenvolvimento e implementação de automações inteligentes.

Isso facilita a gestão dos agentes que lidam com várias tarefas complexas.

Como tudo isso contribuiu para o conceito Agentic IA?

Como já discutido, a convergência dos LLMs, aprendizado de máquina e a integração ‘perfeita’ com sistemas corporativos facilitou o surgimento da Agentic IA que é a “inteligência” por trás dos agentes de IA.

Com habilidades analíticas, de raciocínio, aprendizado e inferência mais precisos, essa nova geração de softwares pode operar com pouca intervenção do homem para completar processos complexos que antes eram domínio exclusivo da inteligência humana.

Eles podem definir metas, projetar e otimizar processos de trabalho, decidir autonomamente sobre ações e aprender com suas experiências, melhorando seu desempenho ao longo do tempo.

E aí, pronto para soltar as feras?

Os pontos chave dos sistemas de “IA Agente”

Os sistemas de IA Agente tem autonomia.

Eles podem se adaptar ou mudar espontaneamente sua abordagem para alcançar um objetivo definido.

E ainda por cima, eles são conscientes do contexto.

• Autonomia: A capacidade de operar de forma independente após receber um objetivo.
• Foco em metas x foco em tarefas: A diferença entre se concentrar na obtenção de resultados específicos ou metas, e/ou só executar tarefas definidas sem entender o objetivo maior.
• Adaptabilidade: A capacidade de ajustar estratégias ou ações posteriores caso a situação mude de forma inesperada, garantindo que o objetivo seja alcançado.

Agora, vamos descomplicar o papo.

Quando você ouve “IA Agente”, pense em algo mais parecido com um ser que não apenas obedece comandos, mas que tem um tipo de “inteligência” para tomar decisões por conta própria.

Não se iluda…

Esses sistemas são um mix de autonomia com a habilidade de se ajustar conforme o figurino.

Algo bem diferente de uma simples máquina que faz o que manda o manual…

Muitos dos exemplos mais palpáveis de IA Agente estão na robótica e nos sistemas autônomos.

Por exemplo, um carro autônomo é um sistema de IA Agente pois consegue processar dados do ambiente e tomar precauções de segurança se preciso.

E, mesmo que a pesquisa sobre veículos autônomos tenha começado antes da popularização do termo “IA Agente”, um carro autônomo se encaixaria na categoria de sistemas com algum nível de agência.

Os sistemas de IA Agente e os 7 níveis de agência

Aqui, as coisas ficam de fato interessantes.

Nem todos os sistemas de IA Agente são iguais.

A agência na IA não é uma coisa preta ou branca.

Ela existe em uma escala.

E isso significa que o nível de autonomia de um sistema pode mudar muiiiiito.

E quanto mais autônomo e adaptável for o sistema, maiores são os riscos e os desafios de governança.

Sim, isso tem implicações sérias.

Os ‘famosos’ 7 níveis de agência dos sistemas de IA

Nível de agência	Explicação
1. Reativo (não agente)	A IA apenas responde aos comandos ou gatilhos pré-definidos. Ela age somente quando é chamada, sem metas de longo prazo ou capacidade de tomar decisões independentes.
2. Assistivo (não agente)	A IA oferece recomendações ou análises (ex: previsões, sugestões de otimização), mas ainda depende de intervenção humana para tomar decisões e executar ações.
3. Semi-autônomo	A IA executa certas tarefas ou toma decisões sozinha, dentro de certos parâmetros. Por exemplo, ela pode ajustar níveis de inventário, mas ainda depende de humanos para aprovar ações mais complexas.
4. Execução autônoma	A IA executa tarefas de forma autônoma, sem intervenção humana, como fazer pedidos aos fornecedores ou gerenciar logística, mas ainda segue regras pré-definidas por humanos.
5. Adaptabilidade autônoma	A IA adapta suas ações conforme as condições mudam (por exemplo, reprogramando remessas por causa de clima ou atrasos de fornecedores) e aprende com experiências passadas para melhorar seu desempenho futuro. Ainda segue diretrizes gerais impostas por humanos.
6. Autonomia	A IA define e persegue metas de longo prazo (como otimizar a eficiência da cadeia de suprimentos), ajusta suas estratégias dinamicamente e interage com múltiplos sistemas ou agentes, aprendendo e se adaptando sem a necessidade de intervenção humana.
7. Agência total	A IA identifica problemas, define metas e se adapta em tempo real, gerenciando todos os aspectos de um domínio específico. Ela opera em sistemas complexos e pode negociar ou colaborar com outras IAs ou agentes humanos para atingir seus objetivos, com mínima ou nenhuma supervisão humana. Sistemas totalmente agentes são autossuficientes.

Agora, a parte mais “divertida” daqui: a complexidade dos níveis de agência.

Perceba que, quanto mais alto o nível de autonomia de um sistema, mais ele se aproxima de uma espécie de “pensamento independente”.

Mas é bom lembrar: esse poder vem com riscos.

Estamos falando de uma IA que pode tomar decisões por conta própria, interagir com outros sistemas e até negociar sem que tenhamos controle total sobre o processo.

Com toda essa independência, o que pode dar errado?

Como controlaremos esse monstro?

Esse é o dilema de quem se atreve a criar uma IA com alto nível de agência.

Os desafios para “governar” as IAs agentes

É claro que a IA Agente é o “mais novo hype” do momento.

Tudo parece muito lindo, neh?

Mas o buraco é mais embaixo.

Criar e governar esses sistemas com segurança e responsabilidade é tipo passear num campo minado.

A Lei de IA da União Europeia e a Ordem Executiva sobre IA dos Estados Unidos já deram uma palhinha para a governança dos sistemas de IA.

E adivinhe?

A IA Agente pode se encaixar em qualquer uma das classificações de risco da Lei de IA da UE, dependendo de como for implementada.

Ou seja, uma IA Agente em um videogame não vai ser considerada de risco alto.

Mas, e uma IA Agente operando uma usina nuclear ou pilotando um avião?

Bom, aí a coisa muda de figura e entra na categoria de altíssimo risco.

E, para esses ambientes de risco extremo, as empresas precisam seguir protocolos rígidos, incluindo:

Transparência

Os usuários devem saber como a IA funciona e como ela toma decisões.

Ou seja, é melhor saber o que está acontecendo por trás da cortina, antes que a IA comece a fazer escolhas “questionáveis”.

Governança de Dados

Os dados usados pela IA Agente precisam ser gerenciados com muito cuidado para evitar viéses ou resultados discriminatórios.

Porque, claro, se a IA errar, ninguém quer que seja por conta de dados tendenciosos.

Documentação e Rastreabilidade

Cada decisão tomada pela IA precisa ser rastreável.

Se algo der errado (e, convenhamos, sempre pode dar), é preciso poder apontar exatamente onde a coisa foi pro brejo.

Nada de esconder as cagadas debaixo do tapete.

Além dessas preocupações legais, as organizações precisam criar estruturas de governança que permitam a supervisão humana das IAs.

Mas também devem viabilizar que a IA possa operar de forma autônoma.

É tipo se equilibrar entre “deixar a IA fazer o trabalho” e “não deixar a IA causar um apocalipse robótico“.

---

Os cases reais de IA Agente…

As aplicações no mundo real ainda são raras devido aos altos requisitos de governança e riscos envolvidos com sistemas autônomos.

Então, o que a IA Agente realmente consegue fazer por agora?

Otimização logística

Empresas podem usar IA Agente para gerenciar estoques, prever demanda e otimizar a logística de forma autônoma, cortando custos e melhorando os tempos de entrega.

Legal, né?

Menos gente envolvida = menos erro humano.

Mas, claro, se a IA decidir que é mais barato cortar a entrega para algum lugar… talvez não nos surpreendamos.

Veículos “autônomos”

Os carros autônomos já usam IA Agente para processar dados ambientais em tempo real, ajudando-os a evitar obstáculos e tomar decisões de segurança sem intervenção humana.

Mas aí você se pergunta:

Quem garante que essa IA não vai resolver sair por aí fazendo suas próprias regras no trânsito?

Vai que ela quer imitar o jogo Carmageddon…

Diagnóstico médico

A IA Agente serve para analisar imagens médicas de forma autônoma, identificando doenças ou condições mais rápido do que os médicos e sugerindo opções de tratamento.

Só espero que ela não comece a diagnosticar “coisas” que não existem só porque leu demais sobre uma condição rara na internet.

---

Mas e o futuro da IA Agente?

Sim, a IA Agente tem um potencial bom, desde otimização de cadeias de suprimentos até carros autônomos.

Mas, apesar do hype, ainda estamos muito longe de ver esses sistemas superambiciosos funcionando redondo.

E, quanto mais autônoma a IA se torna, maior a responsabilidade, os requisitos de governança e os risco envolvidos.

As organizações precisam de estruturas de governança decentes, seguir os regulamentos em evolução como a Lei de IA da UE e ainda conseguir explicar como as IAs tomaram as decisões e como reproduzir de volta esses resultados.

Isso é “um pouco” difícil.

Os modelos de IA nem sempre são determinísticos.

Isso significa que nem sempre conseguiremos prever ou entender de onde vieram as decisões.

Legal, né?

Estamos criando algo que pode se sair bem melhor do que nós mesmos, mas não conseguimos entender o como ou por que.

Por mais que a IA Agente seja uma inovação empolgante, as criações seguras e eficazes ainda são poucas e distantes.

Podemos até ver a IA se tornando aos poucos mais autônoma de acordo com os 7 níveis de agência que discutimos.

Mas o verdadeiro jogo vai começar quando conseguirmos garantir que ela não faça nada que nos leve de volta à Idade das Trevas.

Vedação ao retrocesso como já dizia a boa velha Constituição Brasileira.

---

As perguntas mais batidas sobre o tema Agente de IA

Por que a IA Agente é diferente da RPA?

A IA Agente – ao contrário dos sistemas RPA (Automação de Processos Robóticos) – pode tomar decisões autônomas e se adaptar aos ambientes dinâmicos.

A RPA, por outro lado, segue fluxos de trabalho baseados em regras predefinidas para tarefas repetitivas.

Enquanto a RPA automatiza processos específicos, a IA Agente é capaz de raciocinar e responder às situações dinâmicas de forma independente.

A RPA é um papagaio treinado.

A IA Agente é um corvo inteligente que pode se virar sozinho…

Qual é a p#### da diferença entre IA Generativa e IA Agente?

A IA Generativa cria conteúdo novo com base em padrões aprendidos de dados, como gerar texto ou imagens.

Já a IA Agente toma decisões autônomas e age para alcançar metas específicas, se adaptando às novas informações e ambientes – geralmente sem intervenção humana.

No entanto, é importante notar que a IA Agente atual frequentemente usa modelos de IA generativa (como o GPT-4) como parte de seu funcionamento, então, às vezes, eles se confundem um pouco mesmo.

Só que, se você esperar que uma IA Agente seja uma artista criativa, pode acabar sendo surpreendido… e não da melhor maneira.

Pedro Londe

Palestrante e autor do livro “O que diabos é Gig Economy?: Como ter várias fontes de renda e aproveitar ao máximo todas as suas habilidades”