Caçadores de Tecnologia Mantenha-se atualizado com as últimas novidades tecnológicas! Análises, tutoriais e lançamentos de celulares, TVs e mais. Junte-se aos Caçadores de Tecnologia!
A Character.AI anunciou na terça-feira que está lançando ‘Stories’, um novo formato que permite aos usuários criar ficção interativa com seus personagens favoritos. O recurso surge como uma alternativa aos chatbots da empresa, que não estão mais acessíveis para usuários menores de 18 anos a partir desta semana.
A mudança segue as crescentes preocupações sobre os riscos à saúde mental de chatbots de IA que estão disponíveis 24 horas por dia, 7 dias por semana, e podem iniciar conversas com os usuários. Várias ações judiciais foram movidas contra empresas como OpenAI e Character.AI por sua alegada participação em suicídios de usuários. No último mês, a Character.AI vem eliminando gradualmente o acesso de menores de idade e, a partir de terça-feira, usuários menores não podem mais conversar com seus personagens de IA.
‘As Stories oferecem uma maneira guiada de criar e explorar ficção, em vez de bate-papo de final aberto’, disse a empresa em um post no blog. ‘Elas serão oferecidas junto com nossos outros recursos multimodais, para que os adolescentes possam continuar interagindo com seus Personagens favoritos em um ambiente de segurança primeiro.’
A ficção interativa teve um aumento de popularidade nos últimos anos, então a mudança de direção da Character.AI faz sentido. Mas pode não ser suficiente para saciar os usuários que se tornaram excessivamente dependentes dos chatbots — o que é mais uma razão pela qual a decisão da Character.AI de limitar o acesso aos chatbots foi justificada.
No subreddit da Character.AI, as reações são mistas. De acordo com seus comentários, alguns adolescentes dizem que, embora estejam desapontados, acham que é a decisão correta no final das contas.
‘Estou tão bravo com a proibição, mas também tão feliz porque agora posso fazer outras coisas e meu vício pode acabar finalmente’, escreveu um usuário que se identificou como adolescente.
Outro disse: ‘como alguém que tem menos de 18 anos, isso é apenas decepcionante. mas também com razão, porque as pessoas da minha idade aqui ficam viciadas nisso.’
Ainda não se sabe como os adolescentes usarão o recurso Stories, mas o formato é menos psicologicamente duvidoso do que roleplaying com chatbots. Ao contrário das Stories, os chatbots interagem diretamente com os usuários em conversas de final aberto e podem enviar mensagens não solicitadas, mesmo quando os usuários não estão usando o aplicativo ativamente.
A decisão da Character.AI de restringir o acesso por idade aos chatbots ocorre em um momento em que a Califórnia se tornou recentemente o primeiro estado a regular os companheiros de IA. Enquanto isso, os senadores Josh Hawley (R-MO) e Richard Blumenthal (D-CT) apresentaram um projeto de lei nacional que proibiria totalmente os companheiros de IA para menores de idade.
‘Eu realmente espero que nós liderando o caminho estabeleça um padrão na indústria de que, para menores de 18 anos, chats de final aberto provavelmente não são o caminho ou o produto a ser oferecido’, disse o CEO da Character.AI, Karandeep Anand, ao TechCrunch no mês passado.
