O que aconteceu
Muitos trabalhadores de IA em grandes empresas como OpenAI, Meta e DeepMind são céticos quanto à ideia de que a IA representa uma ameaça existencial para a humanidade. Eles expressam suas dúvidas através do humor e apontam a falta de evidências concretas que apoiem essas afirmações. Embora existam preocupações sobre riscos imediatos, como a segurança e a utilização ética da IA, especialmente em ambientes militares, os trabalhadores sentem que a conversa é mais matizada do que os recentes avisos de grande visibilidade.
O artigo compartilha reações de trabalhadores de IA em empresas como OpenAI, Meta e DeepMind, que são céticos em relação às ameaças existenciais representadas pela IA. Expressam diversão e dúvidas sobre a falta de provas concretas nas afirmações feitas por algumas figuras da indústria.
Jacob Coxon, um ex-funcionário da Anthropic, afirmou que futuras ferramentas de IA poderiam colocar as pessoas em perigo, mas muitos trabalhadores consideram essas afirmações vagas e sem fundamento.
Rishub Jain, fundador da Sampura Research, observa que o tom entre os trabalhadores de IA é “um pouco brincalhão” em relação aos novos medos sobre a IA. Colin Fraser, um cientista de dados Meta, argumenta que não há evidências reais de que os modelos de IA irão inevitavelmente perseguir objetivos que levem à morte humana.
Apesar do ceticismo, os trabalhadores da IA concordam com a importância de mitigar vários riscos, incluindo a prevenção de falhas nas barreiras de proteção da IA e a abordagem de preocupações éticas sobre a IA em ambientes militares.
Há um apoio crescente para trazer avaliadores externos para avaliar novos modelos de IA para segurança, com líderes como Dario Amodei da Anthropic e Sam Altman da OpenAI apoiando esta abordagem.
Por que isso importa
Isto é importante porque destaca uma divisão dentro da indústria da IA sobre os riscos potenciais da IA. Embora alguns alertem para ameaças existenciais, muitos trabalhadores sentem que estas preocupações são exageradas e não apoiadas por evidências. Este ceticismo pode afetar a forma como a indústria aborda a segurança e a regulamentação da IA.
O cepticismo entre os trabalhadores da IA poderá influenciar a abordagem da indústria à segurança e à regulamentação, conduzindo potencialmente a discussões mais matizadas e baseadas em evidências.
A divisão de pontos de vista sobre os riscos da IA pode afetar a perceção pública e as decisões políticas relativas ao desenvolvimento e implantação da IA.
Os riscos imediatos, como a segurança e a utilização ética da IA, estão a ganhar atenção, com foco em medidas práticas para mitigar esses riscos.
Mecanismo interativo: como realmente funciona
Explore a tecnologia subjacente a este desenvolvimento de forma interativa.
A route planner searches possible journeys using explicit rules. What does this illustrate about AI?
O que assistir a seguir
A abordagem da indústria da IA em relação à segurança e à regulamentação, a integração de avaliadores externos nos laboratórios de IA e a forma como os riscos imediatos, como a falha dos da IA, são abordados.
A integração de avaliadores externos nos principais laboratórios de IA e o seu impacto na segurança da IA.
Como a indústria aborda riscos imediatos, como falhas nas proteções de IA e preocupações éticas.
A evolução das discussões públicas e regulatórias em torno dos riscos e da segurança da IA.