A presença da inteligência artificial na rotina dos adolescentes está crescendo rapidamente, especialmente em atividades de estudo, pesquisa, criação e desenvolvimento de novas habilidades. Esse avanço, porém, exige mecanismos específicos para proteger jovens que ainda estão em processo de formação emocional, social e cognitiva.

Com esse objetivo, a OpenAI publicou o Australian Youth Safety Blueprint, documento que apresenta seis pilares para orientar empresas e formuladores de políticas públicas na criação de ambientes de IA mais seguros para menores de idade.

O primeiro pilar recomenda incentivar o uso responsável da IA na educação, com alfabetização digital e participação ativa dos professores. O segundo propõe sistemas de verificação de idade que preservem a privacidade e coletem o mínimo possível de dados pessoais.

A terceira regra determina a adoção de políticas específicas para usuários menores de 18 anos, incluindo testes dos mecanismos de segurança antes do lançamento e monitoramento contínuo depois da implantação. O quarto pilar procura impedir que os assistentes produzam interações manipulativas, incentivem dependência emocional ou levem o adolescente a acreditar que está conversando com uma pessoa consciente ou autoridade humana.

A quinta recomendação trata da criação de protocolos para situações de crise. Os sistemas devem reconhecer sinais relacionados a automutilação ou intenção de suicídio, orientar o jovem a buscar ajuda no mundo real e, quando apropriado, notificar os responsáveis. Também são sugeridos lembretes para pausas durante conversas prolongadas.

O sexto pilar prevê controles parentais acessíveis, permitindo gerenciar memória, histórico, localização, horários de estudo e períodos de descanso. Os responsáveis também deveriam ser avisados quando configurações importantes de segurança fossem alteradas.

A proposta foi apresentada para contribuir com o debate regulatório australiano e ainda não representa uma legislação aprovada. Mesmo assim, oferece referências importantes para o Brasil. Escolas, plataformas digitais e autoridades poderão discutir medidas semelhantes à luz do Estatuto da Criança e do Adolescente e da LGPD.

Mais do que bloquear conteúdos inadequados, o desafio será desenvolver assistentes que considerem desde sua concepção a idade, a privacidade, o bem-estar e o estágio de desenvolvimento de cada usuário.