A emergência de robôs conversacionais desenvolvidos especificamente para crianças, oferecendo aplicações lúdicas ou educacionais, continua sendo um desafio complexo. Embora esses agentes derivem de modelos de linguagem e dados de treinamento idênticos aos destinados a adultos, alguns aplicativos voltados para usuários mais jovens puderam contar com uma comunidade de usuários jovens desde o início, permitindo-lhes implementar ajustes contextuais precoces por meio de aprendizado profundo, com base em dados de casos de uso.
O Desafio da Segurança e Privacidade
No entanto, os aplicativos de inteligência artificial voltados para menores consistem essencialmente em recursos voltados para simular jogos de RPG com personagens predefinidos ou programados por jogadores. Uma das principais técnicas de hacking para agentes de IA consiste precisamente em injetar um contexto fictício com um cenário e personagens, o que engenheiros especialistas até mesmo designam como "role-play prompting". Isso significa que crianças brincando com software de IA podem aprender muito facilmente a acessar dados censurados ou somente para adultos por meio desses jogos.
Essa observação mostra que as políticas de segurança impostas pelos desenvolvedores aos agentes conversacionais são principalmente eficazes para usuários adultos novatos que têm pouco domínio de seu funcionamento. Em relação às crianças, os jogos de RPG assistidos por modelos de linguagem provavelmente fornecerão a elas conteúdo inapropriado para seu nível de desenvolvimento, ou mesmo psicologicamente prejudicial, ao ajudá-las a transgredir as proibições parentais ou trapacear para responder às solicitações de seus educadores.
Impacto nos Processos de Aprendizagem
Por exemplo, os softwares Claude 3.5 e ChatGPT 4o, dois dos aplicativos mais usados no mundo, não hesitam em responder negativamente à questão de se o Papai Noel existe, sem que nenhuma técnica de evasão seja necessária. Essa revelação interfere na autoridade parental de muitas famílias humanas no Ocidente, que consideram que a magia do Natal forma e protege a capacidade de sonhar de seus filhos.
Da mesma forma, no nível pedagógico, as gerações qualitativas de software de IA estão se tornando cada vez menos discerníveis dos escritos das crianças para suas tarefas escolares, sejam redações ou matemática. Esses usos precoces resultam em uma alteração importante dos processos de aprendizagem escolar, na medida em que o conteúdo oferecido às crianças não é ajustado ao seu nível de maturação e conhecimento prévio.
Necessidade de Modelos Específicos para Crianças
Para desenvolver aplicações generativas seguras no arcabouço educacional, seria necessário diferenciar entre registros infantis e adultos a partir da seleção de dados de treinamento e desenvolver modelos de linguagem específicos para crianças. O objetivo ambicioso de substituir educadores humanos e até psicólogos por agentes de IA está em oposição direta ao processo de aprendizagem das crianças, dificultando sua progressividade e a participação da criança em experimentos que lhe permitirão redescobrir as fontes de conhecimento por si mesma, por tentativa e erro, desenvolvendo seu pensamento crítico.
Impacto na Saúde Mental
Paradoxalmente, a contribuição pedagógica dos modelos de linguagem, em comparação com a modalidade de ensino magistral, é antes um retorno a esta última, ao mesmo tempo em que apaga a diferença geracional e a relação humana com o professor. Os agentes de assistência generativa, portanto, minam profundamente o Direito de nossas crianças à educação, bem como a autoridade parental e acadêmica.
Ainda mais seriamente, os jogos de RPG assistidos por software de conversação fornecem ferramentas hiper-performantes para construir uma realidade imaginária e acessar conteúdo adulto complexo, promovendo assim transtornos mentais psicóticos e borderline. Longe do efeito terapêutico contra a solidão exibido em anúncios enganosos, os agentes de assistência conversacional são fatores de risco preocupantes para as patologias mentais de adultos e crianças.
Necessidade de Abordagem Multidisciplinar
Uma manifesta falta de expertise psicológica e psiquiátrica aparece na política de empresas privadas que buscam maximizar seus lucros a longo prazo, oferecendo versões gratuitas para o maior número possível de pessoas, sem distinguir diferenças geracionais e cognitivas.
O desenvolvimento de jogos educacionais generativos ou treinamento cognitivo abre caminhos promissores de pesquisa, no entanto, enquanto a personalização de acordo com as diferenças interindividuais dos usuários não atingir um nível suficiente, essas aplicações não são seguras e até mesmo psicologicamente perigosas. Não apenas versões infantis e adultas devem ser desenvolvidas separadamente, mas também diferentes níveis de complexidade generativa devem ser oferecidos de acordo com o nível escolar, diplomas obtidos e maturação cognitiva individual, com o objetivo de permitir que todos aprendam por si mesmos com base em seu aprendizado anterior.
Limites da Consciência da IA
Os agentes de assistência qualitativa representam ferramentas formidáveis para acessar o conhecimento universal, mas não para construí-lo por si mesmo. Precisamos limitar o uso e o acesso de menores ao conhecimento adulto, a fim de respeitar o desenvolvimento de sua individualidade, pensamento crítico e consciência pessoal. A simulação de uma falsa personalidade por software autogerativo não é apenas responsável pela fenomenal performatividade publicitária, é também um desafio à inteligência humana para entender e conceituar as diferenças essenciais que delimitam os registros humanos e automáticos.
A engenharia da assistência com potencial generativo deve lembrar que, no início, era um ramo experimental da psicologia cognitiva, buscando simular redes neurais em computadores. As implicações psicológicas, éticas, políticas e pedagógicas das tecnologias de geração artificial são marcadores da necessidade de que essas aplicações sejam iluminadas pelas ciências humanas, antropologia e história da ciência. De fato, essas aplicações fornecem uma oportunidade de ouro para atualizar os grandes debates filosóficos e estruturais sobre a consciência, a alma e o pensamento humanos.
Assim, a emergência qualitativa com potencial generativo, ao simular um caráter comunicativo, pode nos permitir distingui-la conceitualmente de uma interação relacional e emocional. O conhecimento e a sabedoria universal ou enciclopédica contidos nos dados de treinamento de modelos de linguagem consistem em gravações, representações linguísticas derivadas de obras humanas. Exatamente da mesma forma que não diríamos que um livro autobiográfico é em si consciente, não podemos de forma alguma considerar que o resultado calculado por um chip digital seria uma emergência consciente.
Consciência Situacional vs. Consciência Humana
Outro exemplo, o termo "consciência situacional", usado nas áreas de segurança, aviação, gerenciamento de crises ou operações militares, refere-se à percepção de elementos ambientais em um volume de tempo e espaço, com a compreensão de seu significado e a projeção de seu estado no futuro próximo. Esses componentes consistem em coletar informações relevantes do ambiente, depois interpretá-las para entender a situação atual e, finalmente, antecipar eventos com base nessa compreensão.
Este processo cognitivo permite que indivíduos e equipes tomem decisões informadas rapidamente em situações complexas ou de alto risco, como para pilotos automáticos na aviação, algoritmos médicos para avaliar e reagir a mudanças no estado do paciente, planejamento tático e estratégico de operações militares ou gerenciamento de crises, permitindo que autoridades avaliem e respondam efetivamente a situações de emergência.
No entanto, é importante aqui distinguir claramente esta estratégia cognitiva do termo "consciência", que é impreciso e confuso neste contexto, porque é muito profundamente conotado pelo contexto filosófico e psicológico do termo, enquanto seria mais um cálculo atencional aplicado a dados de análise situacional, enquanto consciência corresponde a um processo de integração psíquica emocional e mental.
Conclusão: Simulação vs. Consciência
Agentes com potencial gerador de emergência qualitativa permitem uma compreensão analítica recursiva de seu próprio funcionamento por meio da automação de processos de eficiência situacional. Isso não os torna, no entanto, seres dotados de consciência individual, mas apenas produções combinatórias organizadas pela estrutura convencional da linguagem.
Robôs conversacionais assumem uma aparência de humanidade, um tom emocional a serviço de prioridades comerciais e publicitárias, manipulando significantes formatados e escaneados de forma a serem contidos em quantidades de memória digital como unidades lexicais chamadas de "tokens" em criptografia, no contexto do processamento de linguagem natural.
Esses elementos representativos permitem a segmentação de texto ou outro conteúdo para facilitar sua combinação e automatizar este último de forma pseudoaleatória e repetitiva, até obter uma emergência qualitativa, a ser diferenciada de uma propriedade consciente e uma emergência de significado, na medida em que a eficiência situacional automatizada só consegue simular o processo cognitivo de vigilância que representa apenas uma pequena parte das capacidades humanas de integração e elaboração psíquica.
O significado transmitido, comunicado pelos modelos de linguagem, é um vetor de conhecimento qualitativo, de análise racional cuja particularidade é justamente ser desafetivizado, despersonificado, sem levar em conta nem a diferença de sexos nem a de gerações. A qualidade significante que transita nos cabos e redes de chips digitais dedicados não provém dos circuitos eletrônicos em si, mas pertencem à humanidade como um todo, às coletividades sociais e ao domínio público, como expressão de um conhecimento universal proveniente de nossas consciências individuais.
