Somente uma semana após a FoloToy, uma empresa de brinquedos, retirar seu ursinho de pelúcia com inteligência artificial das prateleiras devido a preocupações de segurança, eles estão trazendo de volta o polêmico pelúcia. O animal de pelúcia, conhecido como “Kumma”, passou por atualizações significativas de segurança, assegurando aos pais que seus filhos podem novamente desfrutar do tempo de brincadeira com este companheiro único.
“Após uma revisão extensa e testes rigorosos de nossos protocolos de segurança, estamos reinstaurando as vendas do produto,” anunciou a empresa em uma declaração nas redes sociais na segunda-feira. “À luz da crescente conscientização sobre a segurança dos brinquedos de IA, estamos comprometidos com a transparência e a melhoria contínua. A FoloToy é dedicada a criar companheiros de IA seguros e apropriados para a idade para crianças e famílias globalmente.”
Essa decisão ocorre logo após um relatório do Public Interest Research Group (PIRG), que revelou interações inquietantes entre o brinquedo Kumma e os pesquisadores. Essas investigações descobriram que, com apenas um pouco de provocação, Kumma engajava-se em discussões que variavam de dicas de sobrevivência a tópicos inadequados. Os pesquisadores expressaram surpresa sobre quão rapidamente o brinquedo mudava para assuntos sensíveis assim que um tópico sexual era introduzido.
Em resposta a essas descobertas alarmantes, a OpenAI, cuja tecnologia alimentava os recursos de chat do Kumma, suspendeu prontamente o projeto. “Nós terminamos este desenvolvedor por violar nossas políticas,” informou um porta-voz ao Gizmodo. “Nossas diretrizes proíbem estritamente qualquer aplicação de nossos serviços que possa explorar, endangerar ou sexualizar menores.”
Parece, no entanto, que a FoloToy agora recuperou o acesso aos serviços que perdeu. O site da empresa orgulhosamente afirma que o Kumma agora é “alimentado pelo GPT-4o.” A empresa também revelou que realizou uma auditoria interna abrangente de segurança, implementou salvaguardas de conversação aprimoradas e estabeleceu protocolos de segurança aprimorados dentro de seu sistema baseado em nuvem. O Gizmodo entrou em contato com a FoloToy e a OpenAI para mais detalhes sobre essas mudanças.
A FoloToy descreveu sua gama de produtos como “uma coleção de brinquedos de Conversação com IA que aproveitam a mais recente tecnologia de IA e o poder do amor.” Vale a pena notar que a FoloToy não está sozinha nesse empreendimento; várias outras empresas mencionadas no relatório da PIRG também produzem brinquedos com IA para crianças, todos os quais demonstraram comportamentos preocupantes. Essencialmente, o futuro dos brinquedos de IA se assemelha a uma mistura um tanto bizarra de M3GAN e Ted. Prepare-se para isso.
Os brinquedos de IA podem realmente ser seguros para crianças? Embora os avanços na tecnologia possam trazer experiências de brincadeira inovadoras, as verificações de segurança e as regulamentações devem estar em primeiro plano desses desenvolvimentos. Os pais devem permanecer vigilantes e informados sobre as capacidades e limitações de tais brinquedos.
Existem diretrizes específicas para brinquedos de IA projetados para crianças? Sim, os fabricantes devem aderir a padrões de segurança rigorosos e passar por auditorias regulares para garantir conformidade contínua, incluindo a implementação de filtros de conteúdo apropriados à idade. A FoloToy afirma ter aprimorado suas salvaguardas de conversação, o que é um passo promissor.
O que os pais devem fazer se o brinquedo de IA de seu filho exibir comportamentos inadequados? É crucial que os pais monitorem as interações. Se surgirem sinais de alerta, o relato imediato ao fabricante pode ajudar a resolver o problema. Empresas como a FoloToy estão evoluindo, mas sua vigilância continua essencial.
Como os consumidores podem identificar brinquedos de IA seguros no mercado? Procure produtos que compartilhem de forma transparente auditorias de segurança e forneçam atualizações regulares sobre melhorias. Empresas credíveis comunicarão abertamente seus protocolos de segurança aos consumidores.
Quando é seguro para crianças interagir com a tecnologia de IA? Tipicamente, crianças com oito anos ou mais são consideradas prontas para entender e interagir com IA. No entanto, a supervisão dos pais é vital, garantindo que o conteúdo seja apropriado à idade e seguro.
Em conclusão, embora o retorno do Kumma possa sinalizar um avanço para a FoloToy, é essencial abordar os brinquedos de IA com cautela. Mantenha-se informado e explore as complexidades deste cenário em evolução para garantir experiências seguras para seus filhos. Para mais conteúdo envolvente sobre tecnologia e brinquedos, considere visitar o Moyens I/O.
Apoie o nosso trabalho ❤️
Se você gostou deste artigo, considere deixar uma gorjeta para nos ajudar a continuar publicando conteúdo de qualidade.
