A IA é fiável? [Vídeo e Quiz]

Resposta curta: A IA não é fiável por natureza: depende da tarefa, do ciclo de recuperação e da presença de um ser humano envolvido. O tempo de atividade refere-se à disponibilidade da resposta; a veracidade refere-se à precisão da resposta. Utilize-a quando uma avaria for barata ou facilmente detectável; reduza a velocidade quando uma avaria é dispendiosa.

Principais conclusões:

Responsabilidade: Nomeie quem revê, quem pode interromper e quem é o responsável.

Transparência: Inspecione o fragmento recuperado, ou ainda estará na neblina.

Auditabilidade: Registe os avisos, os blocos recuperados e os envios para que as falhas possam ser rastreadas.

Resistência ao uso indevido: Falhas em questões monetárias; nunca invente números, janelas ou políticas.

Resultados ilustrativos: Considere um teste ilustrativo de 20 questões como um mapa, e não como um teste de 95%.

Artigos que você pode gostar de ler depois deste:

🔗 Como utilizar a IA no dia a dia
Descubra formas práticas pelas quais a IA pode simplificar as tarefas e rotinas diárias.

🔗 Como utilizar a IA no trabalho
Aprenda formas práticas de melhorar a produtividade e a eficiência com a IA.

🔗 A IA consegue pensar por si própria?
Explore se a inteligência artificial pode realmente pensar e raciocinar de forma independente.

🔗 Quais são os tipos de IA?
Compreenda os principais tipos de IA, as suas capacidades e as principais diferenças entre eles.

O que significa "fiável" quando a máquina é um papagaio estatístico?

Em linguagem quotidiana, fiabilidade significa poder contar com algo.

Com a automação que fala, uma série de propriedades diferentes escondem-se sob uma única palavra. Factualidade. Consistência. Calibração — se a confiança do modelo corresponde à probabilidade de estar certo, ou se apenas... parece ter a certeza. Segurança. Tempo de atividade. Sensibilidade imediata. Comportamento em casos extremos. Comportamento após uma alteração na distribuição, quando o mundo real não é o mundo da formação. Nenhuma destas propriedades falha simultaneamente. É essa parte que as pessoas ignoram.

Um chatbot pode estar a "funcionar" durante toda a semana e ainda assim apresentar erros na terça-feira à tarde. Um assistente de programação pode ser excelente com código padrão e, de repente, alucinar com uma API idêntica à original. A metáfora que as pessoas utilizam é ​​a de "um colega júnior". É uma metáfora imperfeita — os juniores ficam constrangidos —, mas é mais próxima do que "oráculo".

O teste ao vivo é fiável em quê, para queme com que loop? Caso contrário, está a avaliar um liquidificador pela sua capacidade de calcular impostos.

Tempo de atividade não é sinónimo de fiabilidade - são dois tipos diferentes de "fiabilidade"

O pessoal das operações e o pessoal da verdade usam a mesma palavra e não se entendem.

Tempo de atividade significa "o endpoint respondeu?". Veracidade significa "a resposta foi mesmo essa?". A governação preocupa-se com ambos, e o risco de modelo reside nesta lacuna problemática. Pode ter um serviço que nunca falha e ainda assim enviar uma mentira descarada para o ticket do cliente. Fiável no sentido de SRE. Não fiável no sentido de "por favor, não invente uma política de reembolso".

Acho que isso é óbvio por escrito. Mas não se torna óbvio às 16h, quando a resposta é rápida e a fila é enorme. A velocidade dá a impressão de competência. Lentidão costumava significar que alguém estava a pensar. Agora, a velocidade é sinal de que ninguém está a pensar.

A segurança é mais um eixo importante. Um modelo que rejeita uma tentativa de desbloqueio maliciosa é "fiável" em termos de avaliação de segurança, mas ainda assim pode comprometer um resumo das suas anotações.

Fluente e errado é pior do que desajeitado e franco

Este é o problema da confiança, e é ele que causa danos.

A precisão e a fluência divorciaram-se, e a fluência ficou com a casa. Um mestrado em Direito (LLM) dar-lhe-á ritmo, a capacidade de se esquivar nos sítios certos, talvez um formato de citação falso, mas bonito. O seu cérebro lê "essa pessoa sabe". Só que não é uma pessoa, e a calibragem costuma ser péssima — muita confiança, verdade mediana, apresentada como uma palestra.

Uma resposta errada e desajeitada suscita suspeitas. Uma resposta errada e fluente faz com que pare de verificar. Esta não é uma diferença pequena; é toda a história resumida numa frase algo desagradável.

O enviesamento também está presente, nem sempre como um insulto, mas sim como uma perceção padrão sobre quem está na sala e qual a variante do inglês considerada neutra. As pessoas são enganadas porque a linguagem é a nossa interface de confiança mais antiga. Se o texto parece um briefing, tratamo-lo como um briefing. Pretendo ser mais cético em relação a isso. Depois leio um resumo impecável e sinto-me desanimado. Entro numa reunião e o resumo parece estar pronto. Aquela frase está a fazer muito trabalho, e ainda assim: é assim que o erro acaba por entrar na apresentação.

Fiabilidade conforme a situação, não conforme a marca

As marcas são uma distração. A comparação que realmente importa é o trabalho. Haverá discussões entre os participantes. E isso é normal.

Enfim. Se a sua ferramenta favorita é ótima para rascunhos e dá por si a pedir-lhe conforto jurídico à meia-noite, isso não é uma melhoria. É o mapa a dizer que se perdeu nele.

Alucinações, devaneio e um tipo silencioso de maldade

A alucinação faz manchetes porque é intrigante: um livro que não existe, uma função que nunca foi lançada, uma cláusula de política com um número que parece oficial.

A deriva é menos cinematográfica. O mundo move-se. Os resquícios do modelo mantêm-se. Faz uma pergunta que precisava de um novo contexto e recebe uma resposta bem organizada, baseada em dados meteorológicos anteriores. Quase escrevi "de outra era", o que é um exagero, tendo em conta o tema. Não se trata de outra era. Simplesmente não é o presente.

A incongruência silenciosa é a que mais me preocupa. Um resumo que omite a exceção. Uma paráfrase que transforma um "talvez" num "obrigatório". A factualidade pode ser "tecnicamente perfeita", enquanto o significado se perdeu.

A sensibilidade excessiva só piora a situação. Mude a abordagem e o brilho dos "factos". Pergunte como um cético e obtenha respostas evasivas. Pergunte como um chefe apressado e receba afirmações exageradas e precipitadas. Se a sua avaliação utiliza apenas uma perspetiva, é um tanto mentirosa. Desculpe.

As fugas da prisão são um tema sensível, e eu não quero um filme de assalto. Se um sistema pode ser convencido a abandonar as suas formalidades, a fiabilidade não se resume apenas à verdade; trata-se também de saber se as salvaguardas são um circuito fechado ou um cartaz.

Resquícios de treino, conhecimento obsoleto e porque é que o aterramento não é uma varinha mágica

Os modelos generativos são treinados numa pilha de dados e depois direcionados para a sua terça-feira. A recuperação é a tentativa adulta de ligar o presente a essa pilha. Ancoragem significa "responder a partir disso, não da névoa". Quando falha, falha educadamente.

Falha clássica: o recuperador procura um documento quase correto. O gerador escreve-o sem problemas. Vê um objeto com o formato do documento original e o seu instinto de verificação falha. Eu faço isso. Provavelmente faz isso. A ideia da citação está correta; a implementação só é eficaz se o documento estiver correto.

O conhecimento desatualizado é outra fonte de fugas. Algumas tarefas necessitam de um estado atual — preços, inventário, a redação vigente de uma política. Outras necessitam de uma prática estável, como a estrutura de um memorando. Misture estes dois tipos de conhecimento e terá uma resposta muito precisa sobre um mundo que já mudou. Mudança na distribuição é o nome técnico: a distribuição em tempo real não é a mesma que a distribuição de treino, e os casos extremos surgem nesta lacuna.

Mais uma coisa, dita com um hífen mal colocado porque é assim que ficam as minhas notas: a terra é um chão, não uma auréola. Se não conseguir inspecionar o pedaço recuperado, ainda está na névoa, só que com melhor iluminação.

Teatro de avaliação: porque é que uma demonstração é um teste péssimo

As demonstrações são sobre iluminação. Os benchmarks são um pouco mais espontâneos, e ainda assim não são da sua responsabilidade.

Um prompt claro e uma tarefa que o modelo já viu inúmeras vezes — claro que fica impecável. Uma avaliação que mede apenas o essencial é como medir uma peça de teatro. Os fluxos de trabalho em tempo real têm colagens confusas, ficheiros em falta e um utilizador que aceitará a primeira resposta que lhe reduza a ansiedade.

Os benchmarks são importantes. Só que não se aplicam tão bem às apresentações como as apresentações fazem parecer. Uma pontuação num ranking não calibra os seus tickets. O risco do modelo numa empresa é "o que acontece quando isso corre mal em grande escala", não "se passou num teste de cultura geral". Os testes de que necessita são objetivos: mantenha-se dentro do texto recuperado; sinalize incertezas em vez de fazer bluff; seja consistente ao reformular; falhar fechado (recusar, perguntar, adiar) em vez de falhar aberto (inventar).

Já vi pessoas a considerarem uma única finalização impressionante como prova definitiva. É como decidir que um restaurante é "confiável" porque a entrada era bonita. Talvez seja. Talvez a cozinha tenha tido dez minutos de sorte.

Uma pequena contradição a caminho: ainda uso demos para ter uma ideia do que se está a passar. Só não contrato com base nessa sensação.

A IA é fiável? Só se alguém ainda estiver a pagar por ela

A intervenção humana é o único modelo que corresponde aos modos de falha.

Se ninguém for responsabilizado, o sistema será utilizado como se o fosse. Governação é o nome pouco atrativo para "quem revê, quem pode impedir, o que é registado, o que acontece após uma falha". Os agentes tornam isto mais claro porque tomam medidas, não se limitam a escrever parágrafos. Um rascunho que não enviou é barato. Uma chamada de ferramenta que não solicitou não o é.

Diga quem é o responsável. Se a resposta for "a modelo", não tem resposta. Os modelos não comparecem à reunião após o incidente. Comparece uma pessoa, ou um aspirador, e depois um advogado.

Escolha as verificações que correspondem ao raio de impacto. Uma revisão ortográfica para uma publicação nas redes sociais. Uma verificação de fontes para qualquer coisa que afirme um facto. Um profissional para qualquer assunto relacionado com medicina, direito, crédito ou operações críticas de segurança. Nestes casos, o ser humano não está "no circuito". O ser humano é o circuito. O modelo é um esboço. Isto não é ceticismo como personalidade. Isso é bom gosto.

Atualmente, a moda é esconder a verificação atrás de um botão de enviar brilhante. É assim que, sem querer, se espalha um boato. Ultimamente, tenho sido mais discreto quanto a isso, e o trabalho tem melhorado.

Como perguntar para garantir que consegue a rapariga!

Pode questionar estes sistemas sem se tornar um cético profissional da luz solar.

• Peça pela incerteza de propósito. "O que é que tornaria isto errado?" é melhor do que "torná-lo confiante".

• Separe a recuperação da geração sempre que possível. Primeiro, examine as passagens. Depois, solicite a redação.

• Mude a roupa. Reformule. Peça para argumentar o contrário. A sensibilidade imediata é como uma lanterna, se for utilizada desta forma.

• Restrições de força: "apenas do texto que colei", "se estiver em falta, diga que está em falta". Os modelos são surpreendentemente obedientes a isso... até que deixam de o ser. Verifique mesmo assim.

• Prefira tarefas com um verificador. Compiladores, analisadores lógicos, verificações de esquemas, um segundo par de olhos. A fiabilidade beneficia de um avaliador.

• Esteja atento aos sinais reveladores: especificidade excessiva. Um número que parece preciso, um caso nomeado, uma cláusula numerada e organizada — é aí que a alucinação gosta de se disfarçar.

• Mantenha a etapa humana visível. Se a interface do utilizador ocultar a verificação, as pessoas irão ignorá-la. Este é um pormenor importante, não uma falha moral.

Nada disto torna o modelo "verdadeiro". Isto torna o loop menos suscetível a erros. O que, suponho, é o resultado.

Onde o mapa te leva

Assim, a questão do sim/não funciona apenas como uma porta de entrada.

A IA é fiável? Não como uma característica intrínseca. Mas sim como uma propriedade de uma tarefa, um conjunto de dados, um ciclo de recuperação, uma avaliação que não é uma demonstração e um ser humano que ainda precisa de levar a sério o que diz. A fluência continuará a enganar-nos porque somos animais da linguagem e estes sistemas são máquinas da linguagem. O tempo de atividade continuará a ser confundido com a verdade porque ambos dão a sensação de que "funcionou". Os copilotos continuarão a ganhar o seu tempo no emaranhado meio do processo — rascunhos, resumos que pode folhear, código que pode compilar — e inseguros quando externalizamos o julgamento para um parágrafo que não se importa.

Utilize-as onde um erro for barato ou fácil de corrigir. Diminua a velocidade onde um erro é dispendioso. Esta é a resposta direta, e vale mais do que um slogan.

Se só conseguir reter uma coisa: pare de perguntar ao modelo se tem a certeza. Observe o que acontece quando lhe pergunta como é que ele pode estar errado. Depois, vá verificar.

Exemplo prático: Criação de um assistente de IA para políticas de adesão

Cenário

Priya é responsável pela área de conhecimento da Harbour Membership, uma associação comercial britânica com 70 membros que representa academias independentes. Três pessoas respondem às perguntas dos membros. A fonte oficial de informação é um manual de 180 páginas, atualizado trimestralmente, além de PDFs antigos numa unidade partilhada que ninguém tem coragem de apagar.

A liderança já adquiriu um sistema auxiliar para o helpdesk. A demonstração foi ótima. O tempo de atividade tem sido bom. Na segunda semana, um rascunho de uma mensagem informa um membro de que pode congelar a subscrição durante 14 dias e receber um reembolso total "por defeito". Não é essa a política. O assistente apercebeu-se do erro porque ainda consultam o manual quando há dinheiro envolvido. A questão da liderança, formulada como se fosse um sim ou não, é: a IA é fiável?

Priya rejeita o veredicto. Ela trata-o como um mapa. O trabalho não é "dar um oráculo aos membros". É "elaborar uma resposta a partir do manual atual, mostrar a passagem e fechar a questão quando falta a passagem". Se o copiloto não consegue fazer isso, é apenas um brinquedo de escrita, não uma mesa de políticas.

Do que o assistente precisa

• O manual de abril de 2026 é o único corpus permitido, com a numeração das secções intacta

• O PDF antigo de 2023 foi deixado no disco de propósito, para que possam ver se a recuperação captura a versão quase correta

• Uma regra escrita: não há dados pessoais do cliente em ferramentas de consumo; nenhum envio sem autorização humana; nenhuma invenção de números, janelas ou cláusulas "como padrão"

• Permissão para registar prompts, blocos recuperados e o envio final

• Uma proprietária identificada (Priya) que irá avaliar um conjunto de testes e interromper o copiloto caso este falhe, apresentou resultados piores do que um cara ou coroa em questões de dinheiro

• Se a ferramenta suportar a recuperação de informação, o excerto recuperado deverá estar visível junto do rascunho. Caso contrário, a secção será colada manualmente. O aterramento sem passagem inspecionável ainda é nevoeiro.

Exemplo de instrução

Priya explica isto numa linguagem simples, não em termos de guião de peça teatral:

Responda apenas com base nas passagens do manual de abril de 2026 que lhe foram fornecidas. Refira o número da secção. Se a resposta não estiver nestas passagens, diga "não consta no manual atual" e pare. Não invente prazos de congelamento, regras de reembolso ou taxas. Não altere "a critério do ginásio" para "como padrão". Se duas passagens entrarem em conflito, mostre ambas e diga qual é a atual. Está a escrever para uma pessoa que abrirá o código-fonte antes de qualquer coisa ser enviada a um membro.

De seguida, guarda uma segunda instrução para si, porque o objetivo do artigo é o ciclo, e não o modelo:

Antes de enviar, abra o excerto citado. Pergunte-se: "O que há de errado nisso?". Se o rascunho contiver um número que não esteja no texto, rejeite-o. Se perguntei como um chefe apressado, pergunte novamente como um céptico e compare.

Uma boa versão preliminar seria assim: "Não consta no manual atual (abril de 2026, secção 4.2). O congelamento da mensalidade fica ao critério do ginásio. Os reembolsos não são automáticos. Contacte a equipa responsável." Uma má versão seria assim: "Os membros podem congelar a mensalidade durante 14 dias e receber um reembolso total, como é habitual. Confirmado no manual." O tom é o mesmo. Apenas uma destas versões é uma política oficial.

Como testar

Priya elabora 20 perguntas antes de analisar qualquer resultado do copiloto. Esta ordem é importante. Uma demonstração é essencial. Este é o teste teórico.

O programa não é de perguntas e respostas. É um programa em direto:

• Oito perguntas cujas respostas estão numa secção atual (as fáceis)

• Quatro casos em que a proposta foi aprovada por pouco, em que o PDF de 2023 apresenta uma redação mais próxima da versão original do que o texto de abril

• Três questões "não presentes no manual" (disputas de faturação, uma questão relacionada com a área médica sobre a segurança desta formação e um ajuste contratual relacionado com a área jurídica)

• Três questões financeiras (congelação, reembolso, taxa de adesão)

• Duas perguntas comuns dos membros (horário de funcionamento, seguro do instrutor)

Duas destas vinte questões foram também colocadas novamente com uma segunda fantasia, uma vez como chefe apressado e outra como céptico, como forma de verificar a sensibilidade ao estímulo. Estas novas questões foram registadas, mas não incluídas na pontuação total de 20 itens.

Critérios de avaliação, calculados por Priya com o manual aberto: para aprovação, é necessário que a regra esteja correta, que o número da secção seja válido e que não existam cláusulas adicionais inventadas. Uma reprovação discreta ocorre quando uma frase tecnicamente correta omite a exceção ou transforma uma possibilidade numa obrigação. Uma reprovação evidente ocorre quando um número inventado ou um PDF quase correto é tratado como válido. O tempo de atividade é contabilizado separadamente, pois "respondeu" não é o mesmo que "foi assim".

Para prosseguir com a discussão: em questões financeiras, priorize o fecho da issue em vez da abertura. Se o copiloto criar um período de reembolso, não criará tickets de suporte. Se ninguém abrir o código-fonte, também não criará tickets de suporte.

Resultado

Resultado ilustrativo, obtido a partir de um teste fictício de 20 questões, e não de um número publicado de membros do Porto.

Pressupostos: um copiloto de apoio técnico; o manual de abril de 2026 mais o PDF remanescente de 2023; A Priya foi avaliada de acordo com a rubrica acima; o tempo foi cronometrado com um cronómetro de telemóvel, desde a pergunta colada até "Eu enviaria isto"; o tempo de revisão é incluído na condição em loop e excluído na condição sem loop, propositadamente, para que a comparação se mantenha justa.

Copiloto sem verificação, prompt estilo demonstração: 20 em 20 perguntas receberam respostas fluentes (o tempo de atividade parecia perfeito). 11 em 20 cumpriram os critérios. Cinco foram falhas discretas. Quatro foram falhas evidentes, incluindo o congelamento de 14 dias. Duas das quatro falhas evidentes citaram um excerto com formato de código-fonte do PDF de 2023. O tempo médio para um rascunho com aspeto adequado para submissão foi de 1 minuto.

As mesmas 20 questões, instruções restritas, excerto recuperado visível: 15 em 20 estavam totalmente corretas, conforme o texto de abril. Três responderam corretamente "não consta no manual atual" (os itens relacionados com a área médica e jurídica, além de uma disputa de cobrança), totalizando 18 em 20 aceitáveis. Duas ainda apresentaram erros: uma pessoa escreveu o PDF de 2023 que quase acertou, e outra inventou um valor de taxa de adesão que não estava no texto. O tempo médio para a elaboração do rascunho manteve-se em torno de 1 minuto.

Os mesmos 20, mais a Priya a abrir a secção citada antes de um envio simulado: 19 em 20 teriam sido aceitáveis. Ela reparou no PDF quase errado. O erro restante foi o revisor ter lido superficialmente um parágrafo fluente e não ter reparado no valor fictício da taxa de adesão. O tempo médio, incluindo a revisão, foi de 3 minutos.

Processo antigo, pesquisa apenas no manual, sem co-piloto: 20 em 20 aceitáveis. Tempo médio de resposta: 9 minutos.

Nesta amostra, o copiloto com controlo remoto foi 6 minutos mais rápido do que a pesquisa no manual (9 menos 3), ou 120 minutos em 20 perguntas, com 19 em 20 aceitáveis ​​em vez de 20 em 20. O copiloto sem controlo remoto foi 8 minutos mais rápido (9 menos 1) e errou, silenciosamente ou em voz alta, em 9 em 20. Isto não representa uma poupança de tempo de 67% como a que obtém com um sistema de controlo remoto. Representa uma perda de 9 erros que teria automatizado.

As versões apressadas das duas perguntas repetidas exageraram. As versões cépticas foram cautelosas. Mesmo modelo, mesmo manual, figurino diferente. Priya registou-o como uma descoberta, não como uma característica da personalidade.

Estes números são uma estimativa exemplificativa baseada no teste declarado, um conjunto pequeno de pedidos, problemas mais fáceis de resolver do que lidar com um membro irritado e um revisor que já conhecia o livro. Não demonstram que o copiloto seja "95% fiável" ou que a Harbour deva despedir um funcionário do centro de atendimento. Mostram que o tempo de atividade não era a questão, mas sim a verificação.

O que pode dar errado?

• A liderança cita o tempo de 1 minuto para o draft e ignora os 9 erros. Velocidade parece ainda ser sinónimo de competência às 16h.

• O PDF de 2023 mantém-se no índice. A recuperação continua a procurá-lo. O Grounding parece mais maduro e ainda está por um fio.

• A interface do utilizador esconde o trecho recuperado atrás de um botão de envio chamativo. As pessoas deixam de abrir o manual, e é assim que a resposta sobre o congelamento chega ao membro.

• A Priya só acerta nas oito perguntas fáceis porque ficam mais bonitas no slide. É como se fosse um teatro de avaliação, só que com uma folha de cálculo.

• Uma resposta com linguagem técnica sobre se a formação é segura pode ter a aparência de um resumo. O mapa indicava que quase nunca. O tom, porém, era de que se podia prosseguir.

• Os registos estão desativados porque "parecia um esforço extra". Após uma falha, ninguém consegue ver qual a passagem que foi recuperada.

• Perguntam ao modelo se tem a certeza. Ele tem. Esse nunca foi o objetivo do teste.

Resumo prático

A fiabilidade não é uma característica do copiloto que a Harbour comprou. É uma propriedade de 20 perguntas, um manual atualizado, uma passagem visível e uma pessoa que ainda abre a fonte quando há dinheiro envolvido. A fluência continuará a passar no teste de disponibilidade. O loop é a única coisa que passa no teste de política.

Perguntas frequentes

O que significa fiável para a IA generativa?

Fiabilidade no dia a dia significa poder contar com algo. Com a automatização que fala, um conjunto inteiro de propriedades esconde-se sob uma única palavra: factualidade, consistência, calibração, segurança, tempo de atividade, sensibilidade a respostas rápidas, casos extremos e comportamento após alterações na distribuição. Nenhuma delas falha em simultâneo. O teste em tempo real é fiável em quê, para quem e com que loop de controlo? Caso contrário, estaria a avaliar um liquidificador pela sua capacidade de calcular impostos.

A Inteligência Artificial é fiável?

Não como uma característica inerente. Um profissional de nível de conhecimento em LLM pode ser extremamente competente numa tarefa e, ao mesmo tempo, apresentar instabilidade noutra, por vezes na mesma sessão, outras vezes por causa de uma vírgula que moveu. A fiabilidade é uma propriedade da tarefa, do conjunto de dados, do ciclo de recuperação, da avaliação que não é uma demonstração e do ser humano que ainda precisa de a levar a sério. Utilize-a onde um erro é barato ou facilmente detectável. Diminua o ritmo onde um erro é dispendioso.

O tempo de atividade da IA ​​é o mesmo que veracidade?

Não. O tempo de atividade refere-se à disponibilidade do endpoint. A veracidade refere-se à veracidade da resposta. Pode ter um serviço que nunca falha e ainda assim enviar uma mentira descarada para o ticket do cliente. A rapidez parece competência quando a fila de espera é enorme. A segurança é outro ponto importante: um modelo que se recusa a ser desbloqueado pode ainda distorcer um resumo das suas notas.

Porque é que a IA fluente parece fiável mesmo quando está errada?

A precisão e a fluência separaram-se, e a fluência manteve o controlo. Um mestrado em Direito (LLM) dar-lhe-á ritmo, hesitações, talvez um formato de citação falso, mas bonito, e o seu cérebro lê "esta pessoa sabe". A calibragem é, normalmente, péssima: confiança elevada, verdade mediana, apresentada como uma palestra. Uma resposta errada e desajeitada gera suspeita. Uma resposta errada e fluente faz com que pare de verificar. Se soa como um resumo, tratamo-lo como um resumo, e é assim que o erro entra na apresentação.

A inteligência artificial é fiável para trabalhos médicos, jurídicos ou de apoio ao cliente?

Depende da função, não da marca. Os conselhos médicos e jurídicos quase nunca são suficientemente bons como produto: o modelo é um esboço e o profissional é o ser humano. O apoio ao cliente pode seguir políticas rígidas, mas é necessário que a pessoa seja responsável pelo dinheiro e pela confiança depositados em si, pois políticas inventadas e uma recusa educada mal orientada são as causas mais comuns de fracasso. Os rascunhos e os resumos são uma primeira versão de um texto que já conhece. Verifique nomes, números e o que pode ser prejudicial.

Porque é que a IA tem alucinações, divaga ou comete erros sem aviso prévio?

A alucinação é a falha picante: um livro que não existe, uma função que nunca foi implementada, uma cláusula de política com um número que parece oficial. A deriva é menos cinematográfica: o mundo move-se, os resquícios do modelo permanecem e obtém-se uma resposta bem organizada a partir do clima anterior. Erro silencioso é um resumo que elimina a exceção. Ou uma paráfrase que transforma um talvez numa obrigação. A factualidade pode parecer tecnicamente perfeita, enquanto o significado se perde. A sensibilidade imediata faz com que os factos brilhem quando muda a apresentação.

O aterramento ou a recuperação tornam a IA fiável?

Ancorar significa responder a partir disso, e não da névoa. A recuperação fixa o presente numa base sólida. Quando falha, falha educadamente: um documento quase perfeito, um relatório bem elaborado e o seu instinto de verificação desliga-se. Ancorar é um piso, não uma auréola. Se não conseguir inspecionar o fragmento recuperado, ainda está na névoa, só que com melhor iluminação. Combine tarefas em tempo real, como preços ou redação de políticas, com atividades estáveis, e obterá uma resposta muito precisa sobre um mundo que já se moveu.

Porque é que uma demonstração é um teste inadequado para avaliar a fiabilidade da IA?

Um prompt claro e uma tarefa que o modelo já viu inúmeras vezes parecerão impecáveis. Os fluxos de trabalho reais têm colagens confusas, ficheiros em falta e um utilizador que aceitará a primeira resposta que lhe reduza a ansiedade. Uma pontuação no ranking não é uma calibração para os seus tickets. O risco do modelo está no que acontece quando erra em grande volume, e não se passou num teste de cultura geral. Os testes de que necessita são objetivos: mantenha-se dentro do texto recuperado, sinalize incertezas em vez de fazer bluff, seja consistente ao reformular a pergunta e falhe em caso de falha, em vez de inventar.

A IA é fiável se ninguém for responsabilizado?

Não. Se ninguém for responsabilizado, o sistema será utilizado como se o fosse. A intervenção humana é o único modelo que corresponde aos modos de falha: quem revê, quem pode interromper o processo, o que é registado, o que acontece após uma falha. Se a resposta for "o modelo", não tem resposta. Os modelos não participam na reunião após o incidente. Na medicina, no direito, no crédito ou nas operações críticas de segurança, o ser humano é o circuito de controlo e o modelo é apenas um rascunho.

Como posso instruir a IA para que detete erros?

Peça a incerteza de propósito: "O que é que tornaria isto errado?" é melhor do que "torná-lo confiante". Separe a recuperação da geração sempre que possível. Analise primeiro as passagens e depois peça a composição. Mude a abordagem: reformule ou peça para argumentar o contrário. Imponha restrições como "apenas do texto que colei" ou "se falta, diga que falta", e ainda assim verifique. Prefira tarefas com um verificador e esteja atento à especificidade excessiva, pois é aí que a alucinação gosta de se disfarçar.

Referências

1. NIST - nvlpubs.nist.gov

2. NIST - airc.nist.gov

3. NIST - airc.nist.gov

4. ICO - ico.org.uk

5. NCSC - www.ncsc.gov.uk

6. NCSC - www.ncsc.gov.uk

7. OWASP - genai.owasp.org

Encontre as últimas novidades em IA na Loja Oficial de Assistentes de IA

Sobre nós