Entendendo o debate sobre a psicose da IA

O fundador da Box, Aaron Levie, nos fez conversar esta semana com uma postagem na mídia social sugerindo que os CEOs de tecnologia estão “excepcionalmente propenso à psicose de IA.”

No último episódio de Podcast de ações do TechCrunchKirsten Korosec, Sean O’Kane e eu fizemos o possível para desvendar o comentário de Levie. Por um lado, notamos que ele não está rejeitando as ferramentas de IA, apenas insistindo que os CEOs precisam realmente usar essas ferramentas para compreendê-las.

Essa é uma nota relativamente suave de ceticismo em comparação com outros sinais de uma reação mais ampla, quer você olhe para estudantes universitários vaiando qualquer menção à IAo más vibrações em torno de demissões na indústria de tecnologiaou o aparente aumento de instalações no mecanismo de pesquisa DuckDuckGo após o anúncio do Google de que é trazendo mais IA para a experiência de pesquisa.

Kirsten sugeriu que o Google enfrenta um dilema em que está “perseguindo aquilo que parece necessário para acompanhar, mas está mexendo com aquilo que as pessoas mais atribuem à marca e não a está melhorando”. De forma mais ampla, ela se perguntou “se este momento anti-IA é uma oportunidade para startups ou outras áreas de negócios”.

Continue lendo para uma prévia de nossas conversas, editadas para maior extensão e clareza.

Antônio Ha: A IA é incrivelmente polarizadora. E isso é parte do desafio de falar, você pode se sentir um pouco louco porque (simultaneamente) todo mundo está usando e todo mundo adora, mas também ninguém está usando e todo mundo odeia ao mesmo tempo. Existem grandes contingentes para os quais ambas as coisas são verdadeiras.

Do lado do usuário, uma coisa que chamou a atenção é que (já) falamos sobre os anúncios do Google sobre pesquisa e como a IA está se tornando uma parte maior da pesquisa – embora tenha sido interessante ver como o Google tentou retroceder um pouco, ou pelo menos adicionar algumas nuances em termos de, se você deseja aquela experiência de 10 links azuis, ainda há maneiras de obtê-la. Não vai desaparecer completamente.

Mas acho que muitas pessoas não estão entusiasmadas com a direção que o Google está tomando. E então você vê, por exemplo, que DuckDuckGo disse que as instalações aumentaram 30%o que é um grande salto. Agora, é claro, o DuckDuckGo é um produto muito, muito menor que o Google. Não acho que o Google esteja com problemas imediatos, mas acho que isso é um sinal de que há um público muito significativo que não gosta da direção atual da IA.

Sean O’Kane: Direi uma coisa que continuo procurando quando olho para todos esses laboratórios líderes de IA ou empresas de tecnologia que estão realmente promovendo recursos e produtos de IA – para mim, parece haver apenas um colapso em direção à abordagem da Anthropic, essa ideia de realmente tentar entender o que você quer oferecer às pessoas e aderir a isso.

E o Google é um dos que eu diria que ainda está empurrando na outra direção. Eles estão tentando fazer muitas coisas diferentes, mas não fazem nenhum favor a si mesmos sendo tão vagos sobre isso.

O que quero dizer com isso é que, quando o Google sobe ao palco no IO e fala sobre a forma como pensa que vai mudar a pesquisa, muito do que estão falando é sobre compras ou coisas que terminam em uma transação comercial. E acho que muito do que pensamos do Google coletivamente, especialmente das pessoas que o utilizam há duas ou três décadas, é como um sistema de recuperação de informações.

O Google pode lutar muito com isso, onde eles têm medos reativos de como podem estar prejudicando o lado da recuperação de informações, e sua resposta é: “Sim, mas isso ainda estará lá. Vamos nos concentrar em como isso vai ajudá-lo a reservar um voo ou algo parecido”.

E então eles também saem e dão um tiro no próprio pé ao liberar – deve ser muito desafiador testar a resistência desses sistemas, mas eles saem e liberam essas coisas e estão enfrentando os mesmos problemas que enfrentam há anos.

Kirsten Korosec: Acabamos de publicar um ótimo artigo sobre como Google não sabe escrever seu próprio nome. Se você perguntar: “Quantos P’s existem no Google?” diz dois.

É essa tensão entre: o Google está perseguindo aquilo que parece ter que fazer para acompanhar, mas está mexendo com aquilo que as pessoas mais atribuem à marca e não a está melhorando.

O que me pergunto é que já vimos algumas evidências iniciais de dedos de pessoas votando ou caminhando por elas, indo literalmente para outro culto. Mas pergunto-me se existem oportunidades para outras startups por aí ou culturalmente falando, se este momento anti-IA é uma oportunidade para startups ou outras áreas de negócios nas quais ainda não pensamos.

Antônio: Absolutamente. Novamente, é provavelmente um desafio porque existe uma grande variedade de opiniões. E se você construir algo feito sob medida para um grupo que é cético em relação à IA, provavelmente irá alienar outros usuários que são muito mais evangelistas ou entusiasmados com isso. Mas acho que esse é exatamente o momento que estamos vivendo.

E você pode ver como o DuckDuckGo está se promovendo, que eles estão enfatizando muito essa ideia de ser anti-IA, o que acho muito impressionante porque mencionei antes, (eu mesmo) me afastei do Google, experimentando outros mecanismos de busca. E eu diria que há um ano, quando comecei essa exploração, mesmo estes motores de busca alternativos ainda estavam a tentar experimentar funcionalidades de IA, enfatizando a IA até certo ponto porque também pensavam que tinham de o fazer.

E agora acho que eles estão vendo que há realmente um caminho para dizer: “Não, simplesmente não estávamos interessados ​​nessas coisas. Ou, na medida em que estamos fazendo isso, estamos colocando-as em uma sandbox separada que não afetará sua experiência de pesquisa principal”.

Kirsten: Acho que às vezes categorizamos injustamente todos os CEOs de tecnologia como pessoas que alimentam a IA à força. E há pelo menos um CEO de tecnologia que disse: “Acho que há um pouco de psicose entre outros CEOs de tecnologia em torno da IA”.

Estou falando do fundador da Box, Aaron Levie, que já veio ao Disrupt várias vezes e é amigo do TechCrunch com certeza. Ele fez esses comentários sobre como CEOs são especialmente propensos à psicose de IA porque eles estão suficientemente, e estou lendo isto, “distantes da última etapa de trabalho que ainda precisa ser realizada para gerar maior valor com IA”.

Achei isso muito interessante. E estou me perguntando se há outros CEOs por aí que concordam com isso. Também me pergunto, como parte dessa mudança de pensamento sobre o que tem de acontecer para gerar o maior valor, se também estão a pensar na forma como a sua força de trabalho está a mudar, que é o nosso outro tópico hoje – (não) apenas sobre a divisão da IA, mas também sobre como a IA está a mudar o trabalho. E certamente vimos algumas das más notícias disso, e isso significa muitas demissões.

Mas acho também que estamos vendo grandes mudanças na forma como as pessoas trabalham. Estou me perguntando se vocês estão vendo evidências disso nas áreas que vocês dois cobrem, porque não acho que seja apenas no “setor de startups de IA”, entre aspas, ou nas grandes empresas de tecnologia.

Sean: No que diz respeito às empresas que abordo, muitas delas tendem a trabalhar, se não no transporte físico, então em coisas adjacentes a ele. E parece muito mais lento lá do que, sem surpresa, no lado do software.

Estamos começando a ver algumas dessas mudanças. Falamos um pouco no programa sobre Mind Robotics, que é o spin-out do CEO da Rivian, RJ Scaringe. E, você sabe, certamente há mais IA sendo aplicada à infraestrutura física e à fabricação, à robótica e à direção autônoma.

Acho que o lado do software é onde as coisas realmente estão mudando, onde você tem pessoas cujo trabalho está diretamente ligado à produção de código.

Antônio: Parte da questão, penso eu, (envolve) tanto a adoção da IA ​​nas empresas como as demissões impulsionadas pela IA – até que ponto são de cima para baixo ou de baixo para cima?

Porque penso que muitas outras transformações na força de trabalho nas últimas décadas foram, pelo menos até certo ponto, de baixo para cima: estas são ferramentas que as pessoas realmente gostam de usar, elas as trazem e, a certa altura, os executivos e gestores de TI aceitam isso.

Há uma certa sensação de que muitos dos (a crença de que estes) ganhos de produtividade da IA ​​parecem ser abraçados pelos executivos – ou, se você estiver em uma startup, provavelmente pelos VCs que estão financiando você – que amam esse sonho de que você pode ter apenas uma pequena equipe e ser tão eficaz quanto uma empresa com uma equipe muito maior.

E não acho que isso seja necessariamente impossível, mas acho que o que Aaron quer dizer é essencialmente que, se você não estiver realmente tocando em nada do trabalho final, como saberia? Ele também não é alguém que está dizendo que deveríamos simplesmente jogar fora todas as ferramentas de IA, mas está dizendo que você realmente precisa usar essas ferramentas e entender o que elas estão fazendo. Você não pode simplesmente olhar para um slide e dizer: “Sim, eficiência incrível, vamos lá”.

Kirsten: Bem, penso que há muitas provas reais de que estas empresas estão a utilizar estas ferramentas, e isso está a afectar directamente os trabalhadores sob a forma de despedimentos, e também a forma como trabalham. As duas verdades são precisas aqui.