Como construir um futuro tecnológico seguro em um mundo onde a inteligência artificial avança em alta velocidade? Essa foi a provocação central do painel sobre ética, confiança e IA que marcou a AI Horizon Conference, evento organizado pela AI Ethics and Integrity International Association, em Lisboa.

Em conversa, especialistas de diferentes setores convergiram para um ponto em comum: por mais que os algoritmos ganhem espaço, a responsabilidade e a confiança continuam dependendo estritamente do fator humano.

Impacto na educação

Um dos convidados que trouxe grandes provocações foi o professor Miguel de Castro Neto, Dean da Nova Information Management School (Nova IMS). Enquanto universidades pelo mundo tentaram restringir o uso de modelos generativos no surgimento do ChatGPT, a instituição tomou o caminho oposto. Castro Neto lembrou que a tecnologia foi abraçada desde o primeiro dia como oportunidade pedagógica.

“Quando fomos desafiados pela IA generativa, foi como uma revolução. Mas, desde o início, vimos isso como uma oportunidade, e não como uma ameaça. Banir o ChatGPT nunca passou pela nossa cabeça”, afirmou o professor.

Para o acadêmico, o verdadeiro impacto da IA na educação não está na entrega passiva de ferramentas, mas na exigência de transformar a forma de ensinar e avaliar. Diante de um modelo de ensino tradicional focado em replicar conteúdo em escala, a tecnologia força a universidade a voltar à sua essência original, ou seja, um espaço de debate, pensamento crítico e formulação das perguntas certas.

“Temos que mudar tudo. Não apenas como ensinamos, mas, o que é muito mais difícil, como avaliamos a aquisição de conhecimento neste novo mundo. Precisamos voltar ao passado do que era a universidade. A universidade era um espaço de discussão, de construção de conhecimento, e não apenas um local onde o professor dá uma aula expositiva”, defendeu Castro Neto.

Essa transformação exige personalizar a jornada de aprendizagem para um formato individualizado. “Vivemos na era da tecnologia, mas a relação humana é mais importante do que nunca”, reforçou.

Tecnologia viabiliza, mas o humano valida

Saindo do mundo acadêmico para o ecossistema corporativo e de inovação, o debate sobre confiança ganha contornos ainda mais pragmáticos. Rui Serapicos, presidente da Associação Portuguesa de Blockchain, traçou um paralelo entre os ciclos de entusiasmo tecnológicos, como o Web3 e a IA, e a busca real por valor nos negócios.

Para Serapicos, a inteligência artificial é uma excelente ferramenta para acelerar conteúdos e tarefas, mas falha no pilar que sustenta qualquer relação social ou comercial: a credibilidade. “A IA escala o conhecimento, o conteúdo e a inteligência, mas não escala a confiança. E é aqui que as duas metades da laranja se encontram. As pessoas confiam em pessoas”, destacou Serapicos.

O executivo lembrou ainda que a tecnologia deve ser enxergada como viabilizadora de soluções para problemas reais, e não como o fim em si mesma. Segundo ele, desenhar produtos relevantes na era da IA exige focar na conformidade legal, na proteção contra fake news geradas por IA e no impacto positivo para os cidadãos.

Direito e Inovação

Se tem inovação e mudança, legislação precisa estar no debate. E conectar a velocidade das startups com o ritmo tradicionalmente lento da legislação é o desafio enfrentado por Roba Hamam, sócia e diretora jurídica da AIPGenius. Com as leis de propriedade intelectual sendo colocadas à prova pelos modelos de cocriação entre humanos e máquinas, aguardar regulamentações oficiais pode significar ficar para trás.

“As leis tomam anos para serem desenvolvidas, enquanto a tecnologia se move muito rápido. É preciso embutir princípios de ética, transparência e conformidade nos seus processos antes mesmo de esperar pela publicação da lei”, aconselhou Roba.

A advogada ressaltou que a IA atua como um potente acelerador de eficiência em setores complexos como a propriedade intelectual, mas ressaltou a necessidade da governança contínua com a presença do especialista no centro das decisões, aquilo que a indústria de TI tem chamado de human-in-the-loop.