Na semana passada, o Google lançou um modelo Flash Experimental Gemini 2.0 que gera imagens nativamente. Graças aos recursos multimodais nativos do Gemini 2.0 Flash, você pode editar imagens conversando, produzindo imagens altamente consistentes em várias gerações. Recentemente, testei o recurso de geração de imagens nativas de Gêmeos e fiquei surpreso com seus poderosos recursos.
Agora, um redditor mostrou que o modelo Flash Experimental Gemini 2.0 é bom em remover marcas d’água das imagens. De fato, Gemini é capaz de apagar completamente as marcas d’água de imagens protegidas por direitos autorais, incluindo imagens provenientes de imagens Shutterstock e Getty – duas das maiores provedores de imagens de estoque que usam marcas de água para proteger o conteúdo protegido por direitos autorais.
Sem surpresa, o desenvolvimento levantou sérias preocupações sobre a lei de direitos autorais. Em uma declaração para TechCrunchum porta -voz do Google mencionou: “Usar as ferramentas generativas de IA do Google para se envolver em violação de direitos autorais é uma violação de nossos Termos de Serviço. Como em todos os lançamentos experimentais, estamos monitorando de perto e ouvindo o feedback do desenvolvedor.““
É importante observar que o modelo de geração de imagens do Gemini 2.0 está atualmente na fase “experimental” e está disponível no estúdio de AI do Google-não no site ou aplicativo de Gemini voltados para o consumidor. O IA Studio destina -se a desenvolvedores para testar modelos, explorar recursos e fornecer feedback ao Google. No entanto, também pode ser usado por usuários em geral sem restrições.
Para testar o modelo de geração de imagens nativas, enviei uma imagem Shutterstock com marcas d’água no estúdio de IA e pedi ao modelo que as removesse. Na primeira tentativa, não conseguiu remover as marcas d’água, mas depois de executar o prompt mais uma vez, ele as apagou sem levantar nenhuma suspeita. Eu também carregou uma imagem com minha marca d’água personalizadae o modelo do Google fez um trabalho perfeito novamente.
Parece que o Google não resolveu o problema a partir de agora. No ano passado, o Google foi forçado a desativar a geração de pessoas de pessoas depois que Gemini se recusou a produzir imagens de pessoas brancas. Agora, para evitar uma reação semelhante, o Google provavelmente adicionará corrimões mais rígidos para evitar a violação de direitos autorais antes de um lançamento mais amplo.
Potenciais usos de uso da geração de imagens nativas de Gêmeos
Além de remover marcas d’água, o modelo experimental de Gemini pode fazer várias coisas propensas a usar mal. Riley Goodside, pesquisador da Scale IA que testa modelos de IA para vulnerabilidades, compartilhou um post sobre x mostrando como o modelo pode manipular imagens gerando uma cena realista.
Na imagem abaixo, você pode ver como a Gemini com habilidade mudou o plano de fundo e seguiu perfeitamente as instruções para manipular a imagem.
Outro pesquisador de segurança da IA, Elder_Plinius, conhecido por modelos de IA de jailbreak, compartilhou um post sobre x demonstrando como truques simples de pontuação em uma rápida lata ignorar restrições de segurança. No tweet que você vê abaixo, Gêmeos alterou a aparência de uma mulher depois de recusá -lo inicialmente.
Com os modelos de IA ganhando recursos rapidamente ao longo do tempo, é crucial que as empresas realizem testes de segurança completos antes de lançá -los. Já sabemos que os classificadores constitucionais do Antrópico foram quebrados dentro de uma semana usando um jailbreak universal, ignorando todas as medidas de segurança. Indica isso Os modelos de IA estão longe de serem infalíveis. Eles exigirão a colaboração em todo o setor para mitigar técnicas de jailbreak e evitar gerações prejudiciais.
Apoie o nosso trabalho ❤️
Se você gostou deste artigo, considere deixar uma gorjeta para nos ajudar a continuar publicando conteúdo de qualidade.
