Desenhar funcionalidades de IA em que os utilizadores confiam

Podes construir a funcionalidade de IA mais capaz do mundo, mas se os utilizadores não confiarem nela, não a vão usar. A confiança é a variável silenciosa que decide se um produto de IA passa a fazer parte da rotina de alguém ou é apagado depois de uma única sessão confusa. A boa notícia é que a confiança não tem nada de mágico. É um conjunto de decisões de design que podes tomar de forma deliberada. Aqui fica como construir funcionalidades de IA em que as pessoas acreditam de facto.

A confiança vem da previsibilidade, não da perfeição

Os utilizadores não esperam que a IA seja impecável. Já usaram o suficiente para saber que ela comete erros. O que corrói a confiança não é o erro ocasional, mas sim a imprevisibilidade, a sensação de que não conseguem antecipar o que o sistema vai fazer nem porquê. Uma funcionalidade que é consistentemente boa e ocasionalmente errada de formas compreensíveis ganha mais confiança do que uma que é brilhante mas errática.

As pessoas perdoam um sistema que é honesto sobre os seus limites. Abandonam um que finge ser infalível e depois falha.

Mostra o teu raciocínio

As caixas negras são difíceis de confiar. Quando uma funcionalidade de IA produz um resultado, dá ao utilizador alguma noção de como lá chegou. Isto não significa despejar-lhe as entranhas técnicas. Significa oferecer a dose certa de explicação para o contexto:

• Para uma análise, aponta as entradas específicas que conduziram à conclusão
• Para uma recomendação, diz brevemente porquê esta e não outra
• Para um resultado gerado, torna visíveis e ajustáveis as escolhas subjacentes

Mesmo uma pequena dose de transparência transforma a experiência: passa-se de o computador disse que sim para percebo porque é que isto faz sentido.

Dá controlo e um desfazer aos utilizadores

Nada constrói tanta confiança como saber que se pode reverter um erro. As funcionalidades de IA deviam oferecer sempre uma forma de regenerar, editar ou anular a saída. Quando os utilizadores se sabem no comando, envolvem-se mais livremente, porque o custo de um mau resultado cai quase a zero. A sensação de ficar preso àquilo que o modelo produziu é uma das formas mais rápidas de perder alguém.

Calibra a confiança com honestidade

Um dos erros de design mais prejudiciais é apresentar uma saída incerta com total segurança. Quando um modelo está em dúvida, a interface devia refleti-lo. Hesita onde a hesitação se justifica. Sinaliza os resultados de baixa confiança. Convida o utilizador a verificar quando o que está em jogo é importante.

Isto parece contra-intuitivo, porque admitir incerteza parece mais fraco. Na prática é o contrário. Um sistema que diz aqui está a minha melhor estimativa, mas confirma esta parte ganha muito mais credibilidade do que um que afirma com aplomb algo errado. Uma calibração honesta é uma funcionalidade, não um defeito.

Define expectativas antes do primeiro uso

Uma quantidade surpreendente de confiança ganha-se ou perde-se na primeira interação. Se os utilizadores chegam à espera de um oráculo impecável e encontram um assistente competente mas imperfeito, sentem-se desiludidos. Se chegam a perceber em que é que a ferramenta é boa e onde estão os seus limites, ficam agradavelmente surpreendidos quando ela funciona. Um enquadramento honesto logo de início evita a deceção que nasce de promessas vendidas a mais.

Protege a privacidade de forma visível

Para funcionalidades de IA que lidam com dados pessoais, fotografias, informações de saúde ou qualquer coisa sensível, a confiança depende muito da clareza com que comunicas o que acontece a esses dados. As garantias vagas já não funcionam. Os utilizadores querem saber o que é guardado, o que é enviado para onde e o que podem apagar. Tornar estas respostas fáceis de encontrar, em vez de as enterrar numa política, demonstra respeito e reforça a confiança.

Deixa a qualidade falar ao longo do tempo

No fundo, a confiança ganha-se com experiências boas e repetidas. Cada interação ou deposita ou levanta de uma conta de confiança. Uma funcionalidade que entrega valor fiável, recupera com elegância dos erros e nunca surpreende o utilizador de má maneira vai acumular lentamente o tipo de lealdade que nenhum marketing consegue comprar.

Os princípios na prática

Nada disto exige um modelo maior ou um orçamento mais largo. Exige escolhas de design intencionais que tratam o utilizador como um colaborador em vez de um destinatário passivo. Previsibilidade, transparência, controlo, confiança honesta, expectativas claras e respeito visível pela privacidade são as fundações de toda a funcionalidade de IA em que as pessoas acabam por se apoiar.

Na Sépia construímos apps com IA com estes princípios no centro, porque vimos em primeira mão que a funcionalidade mais avançada do mundo não vale nada no momento em que um utilizador deixa de acreditar nela. A confiança não é o retoque final. É o produto.