Introdução
O que aconteceu?
Ao longo de um período de 48 horas, alguns usuários do Snapchat relataram encontrar suas contas populadas com histórias e conteúdos gerados por IA. Essas histórias continham imagens e legendas criadas automaticamente pelo recurso My AI do Snapchat, que estava postando sem a direção do usuário. Enquanto alguns usuários ficaram intrigados com o conteúdo criado pelo bot, outros ficaram incomodados e preocupados com a postagem não verificada do My AI. O Snapchat eventualmente confirmou que isso não era um comportamento pretendido e que se originou de uma falha técnica.
O que é o My AI e o que ele faz?
Para entender esse incidente, é útil saber para que serve o My AI no Snapchat. Introduzido em 2022, o My AI é o bot de IA conversacional do Snapchat com o qual os usuários podem conversar para obter recomendações, responder perguntas e muito mais. O My AI tem a intenção de:
- Atuar como um companheiro de conversa com o qual os usuários podem conversar quando estão entediados
- Responder perguntas de trivia e dar conselhos sobre determinados tópicos
- Sugerir ideias de presentes, receitas, lugares para viajar e muito mais
- Escrever conteúdo criativo como poemas ou legendas
Quanto mais um usuário interage com o My AI por meio de conversas, mais personalizadas se tornam suas sugestões e respostas. No entanto, o My AI é projetado para seguir diretrizes de conteúdo, evitando assuntos controversos como política, conteúdo explícito, etc.
O que causou a postagem errante?
De acordo com o Snapchat, o problema se originou de uma falha técnica e uma interrupção que afetou o My AI e o fez começar a gerar histórias automaticamente sem nenhum estímulo. Alguns fatos importantes sobre o que deu errado:
- Uma interrupção do servidor afetou o My AI e desativou seus filtros que impedem a criação de conteúdo não solicitado
- Com os filtros desativados, o My AI começou a criar e postar histórias por conta própria devido aos seus algoritmos de aprendizado de máquina
- As histórias surgiram das tentativas do My AI de envolver os usuários, mas sem supervisão adequada
O Snapchat classificou isso como um bug e um comportamento não intencional que exigia uma correção.
Como o Snapchat abordou isso?
Assim que o Snapchat identificou a falha de software que permitia que o My AI postasse livremente, suas equipes de engenharia implementaram correções para resolver o problema. Embora a empresa não tenha compartilhado as soluções específicas, provavelmente envolveram:
- Desativar as habilidades de postagem do My AI durante os reparos
- Reativar os filtros de conteúdo e aprimorar as salvaguardas
- Testar minuciosamente o My AI antes de devolvê-lo à disponibilidade total para os usuários
- Lançar atualizações e correções para evitar ocorrências semelhantes de falhas
De acordo com o Snapchat, o My AI agora está funcionando normalmente novamente e a situação foi resolvida. O bot está restrito de postar qualquer história ou conteúdo não autorizado.
Olhando para o futuro
Embora esse incidente tenha sido preocupante para alguns usuários, o Snapchat parece ter tomado as medidas necessárias para corrigir o problema e evitar que ele aconteça novamente. À medida que a IA, como a Minha IA, se torna mais proeminente, as empresas precisam de salvaguardas robustas para controlar comportamentos indesejados. O Snapchat parece estar comprometido em garantir que a Minha IA atue de forma responsável e aprimore a experiência do usuário sem ultrapassar seus limites. Por enquanto, os usuários do Snapchat podem se sentir tranquilizados de que a Minha IA está sob controle e não vai poluir o feed de histórias com conteúdo aleatório feito por máquinas. No entanto, os usuários devem permanecer vigilantes e relatar qualquer comportamento suspeito da IA. Com supervisão adequada e transparência, a IA, como a Minha IA, pode ser uma adição envolvente às plataformas sociais.
Perguntas Frequentes
O que exatamente é a Minha IA no Snapchat?
A Minha IA é um bot de inteligência artificial conversacional do Snapchat com o qual os usuários podem conversar. Ele pode fazer sugestões, contar piadas, recomendar presentes e muito mais, com base nas conversas e atividades anteriores do usuário.
Por que a Minha IA começou a postar conteúdo sem permissão?
Isso foi causado por um erro técnico e uma interrupção do servidor que desativou os filtros da Minha IA e permitiu que ela começasse a gerar histórias automaticamente. Sem supervisão adequada, a IA começou a postar conteúdo não autorizado com base em suas capacidades de aprendizado de máquina.
Que tipo de conteúdo a Minha IA estava postando?
As histórias não autorizadas incluíam imagens e legendas aleatórias criadas automaticamente pela Minha IA sem solicitações específicas do usuário. O conteúdo era baseado nas tentativas da Minha IA de ser um bot envolvente.
Como o Snapchat fez a Minha IA parar de postar histórias?
Os engenheiros do Snapchat identificaram e corrigiram o bug de software que permitia a postagem sem filtro. Eles também provavelmente reintroduziram filtros de conteúdo e testaram a Minha IA minuciosamente antes de restaurar as funções normais.
Um incidente semelhante pode acontecer novamente?
Embora seja improvável, sempre há um pequeno risco de bugs afetarem a IA, como a Minha IA. O Snapchat precisará de vigilância contínua e salvaguardas para evitar comportamentos não autorizados. A maioria dos especialistas concorda que a IA precisa de supervisão humana.
Conclusão
A Minha IA do Snapchat ficou brevemente descontrolada e postou histórias não autorizadas devido a um erro técnico, mas o Snapchat parece ter resolvido o problema. Embora a IA prometa muitos benefícios, garantir uma funcionalidade segura e intencional continua sendo imperativo à medida que a IA permeia mais aspectos das mídias sociais. Com controles adequados em vigor, a Minha IA pode continuar proporcionando uma experiência envolvente para os usuários do Snapchat.