"Se você quiser uma imagem do futuro, imagine uma bota estampada em um rosto humano - para sempre".
- George Orwell, 1984

O futuro orwelliano com o Big Brother assistindo todos os nossos movimentos e ouvindo todas as conversas, parecia ser apenas um dos muitos possíveis resultados futuristas e anos-luz de distância quando eu lia 1984 na escola primária. Então Alexa e outros dispositivos assistidos por voz entraram no mundo e me fizeram repensar um possível futuro distópico onde as máquinas se tornam mais e mais enquanto os humanos se tornam cada vez menos devido ao seu próprio desejo de conforto e facilidade.

Esses dispositivos são normalmente colocados em salas de estar e cozinhas e são capazes de ouvir conversas privadas, embora seus fabricantes afirmem que eles só deveriam ser ativados quando uma palavra ou frase de comando específica é acionada. Na semana passada, um incidente citado pela Amazon como uma “ocorrência extremamente rara” aconteceu em Portland, Oregon, quando Alexa gravou uma conversa pessoal e enviou o arquivo de áudio para uma pessoa aleatória na lista de contatos de um casal. Assustado com essa exibição ameaçadora de “Big Brother”, a família imediatamente desconectou todos os seus dispositivos com Alexa. Como isso aconteceu e o que isso significa?

Segundo a Amazon, foi assim que aconteceu:

“Echo acordou devido a uma palavra na conversa em segundo plano que soava como“ Alexa ”. Então, a conversa subsequente foi ouvida como uma solicitação de“ enviar mensagem ”. Nesse ponto, Alexa disse em voz alta: "Para quem?". Nesse ponto, a conversa em segundo plano era interpretada como um nome na lista de contatos dos clientes. Alexa, em seguida, perguntou em voz alta: "[nome do contato], certo?" Alexa, em seguida, interpretou a conversa de fundo como "certo". Por mais improvável que seja essa série de eventos, estamos avaliando opções para tornar esse caso ainda menos provável ”.

Em março, Alexa foi pego rindo sem que nenhum comando fosse dado, surpreendendo os usuários enquanto eles passavam o dia. Alguns, ouvindo o riso estranho, até pensaram que um estranho estava em sua casa.

Esses dispositivos estão sempre ligados e aguardam uma chamada à ação, mas jogamos nossa privacidade pela janela junto com a caixa em que o Alexa entrou? Os críticos dizem que temos. O episódio acima ressaltou as preocupações em torno do Echo e de outros alto-falantes inteligentes, como o Google Home e o Home Pod da Apple. Não só alguns dizem que representam uma ameaça à segurança, mas as crianças têm encomendado itens através deles sem o consentimento dos pais.

Apesar desses eventos, a tecnologia foi amplamente adotada. A organização de pesquisas Gallup e a Northeastern University informaram que cerca de um em cada cinco adultos americanos usa um dispositivo doméstico inteligente como o Alexa, o Google Home ou outros dispositivos concorrentes. E as vendas continuam a subir.

Existe o problema de que grande parte das informações armazenadas nesses dispositivos pode ser armazenada em servidores fora do país, embora a Amazon afirme ter integrado várias camadas de proteção de privacidade nos assistentes domésticos. Ainda assim, eles mantêm gravações de todas as conversas gravadas após o comando inicial porque ajudam o dispositivo a se acostumar com o reconhecimento de fala. E, como já foi demonstrado, grava conversas sem o uso de um comando. Os usuários podem excluir históricos de gravação de voz a seu critério. Espero que, antes de enviá-lo para um contato desavisado em sua lista.


Pesquisa

1. O Amazon Echo registrou secretamente a conversa de uma família e a enviou para uma pessoa aleatória em sua lista de contatos. CNBC.
https://www.cnbc.com/2018/05/24/amazon-echo-recorded-conversation-sent-to-random-person-report.html