{"id":35339,"date":"2025-03-24T07:55:21","date_gmt":"2025-03-24T10:55:21","guid":{"rendered":"https:\/\/staging.portaltela.com\/noticias\/2025\/03\/24\/entregar-controle-total-a-agentes-de-ia-pode-resultar-em-serias-consequencias\/"},"modified":"2025-03-24T07:55:21","modified_gmt":"2025-03-24T10:55:21","slug":"entregar-controle-total-a-agentes-de-ia-pode-resultar-em-serias-consequencias","status":"publish","type":"post","link":"http:\/\/3.81.61.233\/cotidiano\/tecnologia\/2025\/03\/24\/entregar-controle-total-a-agentes-de-ia-pode-resultar-em-serias-consequencias\/","title":{"rendered":"Entregar controle total a agentes de IA pode resultar em s\u00e9rias consequ\u00eancias"},"content":{"rendered":"<p>A ascens\u00e3o dos <strong>agentes de IA<\/strong> tem gerado grande expectativa na ind\u00fastria tecnol\u00f3gica. Diferentemente dos chatbots, esses sistemas inovadores operam fora de janelas de conversa, interagindo com diversas aplica\u00e7\u00f5es para realizar tarefas complexas, como agendar reuni\u00f5es ou fazer compras, a partir de comandos simples do usu\u00e1rio. \u00c0 medida que esses agentes se tornam mais sofisticados, surge uma quest\u00e3o crucial: at\u00e9 que ponto estamos dispostos a abrir m\u00e3o do controle e quais s\u00e3o os riscos associados? Com novos frameworks e funcionalidades sendo anunciados frequentemente, as empresas promovem essa tecnologia como uma forma de facilitar nossas vidas, executando tarefas que n\u00e3o conseguimos ou n\u00e3o queremos fazer.<\/p>\n<p>Exemplos not\u00e1veis incluem a fun\u00e7\u00e3o de &#8220;uso de computador&#8221; do sistema Claude, da Anthropic, que permite ao agente atuar diretamente na tela do usu\u00e1rio, e o agente geral Manus, que pode utilizar ferramentas online para diversas atividades, como encontrar clientes ou planejar viagens. Essas inova\u00e7\u00f5es representam um avan\u00e7o significativo na intelig\u00eancia artificial, com sistemas projetados para operar no mundo digital sem supervis\u00e3o humana direta. A promessa \u00e9 atraente, especialmente para aqueles que buscam ajuda com tarefas tediosas ou que consomem tempo. Al\u00e9m disso, a assist\u00eancia de agentes pode ser transformadora para pessoas com dificuldades de mobilidade ou baixa vis\u00e3o, permitindo que realizem tarefas online por meio de comandos de voz.<\/p>\n<p>Entretanto, essa vis\u00e3o de agentes de IA tamb\u00e9m traz riscos significativos que podem ser negligenciados na pressa por maior autonomia. A pesquisa da Hugging Face indica que o desenvolvimento desses agentes pode estar prestes a cometer um erro grave. O problema central reside na autonomia dos sistemas de IA: quanto mais independentes eles se tornam, mais controle humano \u00e9 cedido. Os agentes s\u00e3o projetados para serem flex\u00edveis, capazes de realizar uma variedade de tarefas sem programa\u00e7\u00e3o direta. Essa flexibilidade, muitas vezes baseada em <strong>modelos de linguagem grandes (LLMs)<\/strong>, pode resultar em erros imprevis\u00edveis. Quando um LLM gera texto em uma interface de chat, os erros ficam restritos \u00e0quela conversa. No entanto, um sistema que atua de forma independente pode realizar a\u00e7\u00f5es indesejadas, como manipular arquivos ou realizar transa\u00e7\u00f5es n\u00e3o autorizadas.<\/p>\n<p>A manuten\u00e7\u00e3o da supervis\u00e3o humana \u00e9 fundamental, como demonstrado por eventos hist\u00f3ricos que quase resultaram em cat\u00e1strofes. Em 1980, um erro em sistemas de computador indicou falsamente que mais de 2 mil m\u00edsseis sovi\u00e9ticos estavam se dirigindo \u00e0 Am\u00e9rica do Norte, levando a procedimentos de emerg\u00eancia que poderiam ter causado um desastre. A verifica\u00e7\u00e3o humana entre diferentes sistemas de alerta foi crucial para evitar a trag\u00e9dia. Embora alguns argumentem que os benef\u00edcios da autonomia superam os riscos, \u00e9 poss\u00edvel alcan\u00e7ar essas vantagens sem abrir m\u00e3o do controle humano. A Hugging Face est\u00e1 desenvolvendo <strong>smolagents<\/strong>, um framework que proporciona ambientes seguros e permite que desenvolvedores criem agentes com transpar\u00eancia, garantindo que grupos independentes possam verificar se h\u00e1 controle humano adequado. Essa abordagem contrasta com a tend\u00eancia atual de sistemas de IA cada vez mais complexos e opacos, que dificultam a garantia de seguran\u00e7a.<\/p>\n","protected":false},"excerpt":{"rendered":"<p>A ascens\u00e3o dos agentes de IA tem gerado grande expectativa na ind\u00fastria tecnol\u00f3gica. Diferentemente dos chatbots, esses sistemas inovadores operam fora de janelas de conversa, interagindo com diversas aplica\u00e7\u00f5es para realizar tarefas complexas, como agendar reuni\u00f5es ou fazer compras, a partir de comandos simples do usu\u00e1rio. \u00c0 medida que esses agentes se tornam mais sofisticados, [&hellip;]<\/p>\n","protected":false},"author":15,"featured_media":0,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"summary":"Pesquisadores da Hugging Face alertam sobre os riscos de delegar controle a agentes de IA aut\u00f4nomos, defendendo supervis\u00e3o humana e sistemas abertos.","footnotes":""},"categories":[12,16],"tags":[100],"class_list":["post-35339","post","type-post","status-publish","format-standard","hentry","category-entretenimento","category-tecnologia","tag-noticia"],"yoast_head":"<!-- This site is optimized with the Yoast SEO Premium plugin v27.2 (Yoast SEO v27.2) - https:\/\/yoast.com\/product\/yoast-seo-premium-wordpress\/ -->\n<title>Entregar controle total a agentes de IA pode resultar em s\u00e9rias consequ\u00eancias - Portal Tela (STAGING)<\/title>\n<meta name=\"robots\" content=\"noindex, follow, max-snippet:-1, max-image-preview:large, max-video-preview:-1\" \/>\n<meta property=\"og:locale\" content=\"pt_BR\" \/>\n<meta property=\"og:type\" content=\"article\" \/>\n<meta property=\"og:title\" content=\"Entregar controle total a agentes de IA pode resultar em s\u00e9rias consequ\u00eancias\" \/>\n<meta property=\"og:description\" content=\"A ascens\u00e3o dos agentes de IA tem gerado grande expectativa na ind\u00fastria tecnol\u00f3gica. Diferentemente dos chatbots, esses sistemas inovadores operam fora de janelas de conversa, interagindo com diversas aplica\u00e7\u00f5es para realizar tarefas complexas, como agendar reuni\u00f5es ou fazer compras, a partir de comandos simples do usu\u00e1rio. \u00c0 medida que esses agentes se tornam mais sofisticados, [&hellip;]\" \/>\n<meta property=\"og:url\" content=\"https:\/\/staging.portaltela.com\/noticias\/2025\/07\/09\/novo-presidente-do-pt-apresenta-suas-principais-ideias-em-quatro-pontoschave\/\" \/>\n<meta property=\"og:site_name\" content=\"Portal Tela (STAGING)\" \/>\n<meta property=\"article:published_time\" content=\"2025-03-24T10:55:21+00:00\" \/>\n<meta name=\"author\" content=\"Telinha\" \/>\n<meta name=\"twitter:card\" content=\"summary_large_image\" \/>\n<meta name=\"twitter:label1\" content=\"Escrito por\" \/>\n\t<meta name=\"twitter:data1\" content=\"Telinha\" \/>\n\t<meta name=\"twitter:label2\" content=\"Est. tempo de leitura\" \/>\n\t<meta name=\"twitter:data2\" content=\"3 minutos\" \/>\n<script type=\"application\/ld+json\" class=\"yoast-schema-graph\">{\"@context\":\"https:\/\/schema.org\",\"@graph\":[{\"@type\":\"Article\",\"@id\":\"https:\/\/staging.portaltela.com\/noticias\/2025\/07\/09\/novo-presidente-do-pt-apresenta-suas-principais-ideias-em-quatro-pontoschave\/#article\",\"isPartOf\":{\"@id\":\"https:\/\/staging.portaltela.com\/noticias\/2025\/07\/09\/novo-presidente-do-pt-apresenta-suas-principais-ideias-em-quatro-pontoschave\/\"},\"author\":{\"name\":\"Telinha\",\"@id\":\"https:\/\/staging.portaltela.com\/#\/schema\/person\/89d764bb518c9e861868915fca9f0e5d\"},\"headline\":\"Entregar controle total a agentes de IA pode resultar em s\u00e9rias consequ\u00eancias\",\"datePublished\":\"2025-03-24T10:55:21+00:00\",\"mainEntityOfPage\":{\"@id\":\"https:\/\/staging.portaltela.com\/noticias\/2025\/07\/09\/novo-presidente-do-pt-apresenta-suas-principais-ideias-em-quatro-pontoschave\/\"},\"wordCount\":539,\"publisher\":{\"@id\":\"https:\/\/staging.portaltela.com\/#organization\"},\"keywords\":[\"Not\u00edcias\"],\"articleSection\":[\"Entretenimento\",\"Tecnologia\"],\"inLanguage\":\"pt-BR\",\"copyrightYear\":\"2025\",\"copyrightHolder\":{\"@id\":\"http:\/\/3.81.61.233\/#organization\"}},{\"@type\":\"WebPage\",\"@id\":\"https:\/\/staging.portaltela.com\/noticias\/2025\/07\/09\/novo-presidente-do-pt-apresenta-suas-principais-ideias-em-quatro-pontoschave\/\",\"url\":\"https:\/\/staging.portaltela.com\/noticias\/2025\/07\/09\/novo-presidente-do-pt-apresenta-suas-principais-ideias-em-quatro-pontoschave\/\",\"name\":\"Entregar controle total a agentes de IA pode resultar em s\u00e9rias consequ\u00eancias - Portal Tela (STAGING)\",\"isPartOf\":{\"@id\":\"https:\/\/staging.portaltela.com\/#website\"},\"datePublished\":\"2025-03-24T10:55:21+00:00\",\"breadcrumb\":{\"@id\":\"https:\/\/staging.portaltela.com\/noticias\/2025\/07\/09\/novo-presidente-do-pt-apresenta-suas-principais-ideias-em-quatro-pontoschave\/#breadcrumb\"},\"inLanguage\":\"pt-BR\",\"potentialAction\":[{\"@type\":\"ReadAction\",\"target\":[\"https:\/\/staging.portaltela.com\/noticias\/2025\/07\/09\/novo-presidente-do-pt-apresenta-suas-principais-ideias-em-quatro-pontoschave\/\"]}]},{\"@type\":\"BreadcrumbList\",\"@id\":\"https:\/\/staging.portaltela.com\/noticias\/2025\/07\/09\/novo-presidente-do-pt-apresenta-suas-principais-ideias-em-quatro-pontoschave\/#breadcrumb\",\"itemListElement\":[{\"@type\":\"ListItem\",\"position\":1,\"name\":\"Home\",\"item\":\"https:\/\/staging.portaltela.com\/\"},{\"@type\":\"ListItem\",\"position\":2,\"name\":\"Novo presidente do PT apresenta suas principais ideias em quatro pontos-chave\"}]},{\"@type\":\"WebSite\",\"@id\":\"https:\/\/staging.portaltela.com\/#website\",\"url\":\"https:\/\/staging.portaltela.com\/\",\"name\":\"Portal Tela (STAGING)\",\"description\":\"As not\u00edcias mais relevantes do momento na sua Tela, para voc\u00ea.\",\"publisher\":{\"@id\":\"https:\/\/staging.portaltela.com\/#organization\"},\"potentialAction\":[{\"@type\":\"SearchAction\",\"target\":{\"@type\":\"EntryPoint\",\"urlTemplate\":\"https:\/\/staging.portaltela.com\/?s={search_term_string}\"},\"query-input\":{\"@type\":\"PropertyValueSpecification\",\"valueRequired\":true,\"valueName\":\"search_term_string\"}}],\"inLanguage\":\"pt-BR\"},{\"@type\":[\"Organization\",\"Place\"],\"@id\":\"https:\/\/staging.portaltela.com\/#organization\",\"name\":\"Portal Tela\",\"alternateName\":\"Tela\",\"url\":\"https:\/\/staging.portaltela.com\/\",\"logo\":{\"@id\":\"https:\/\/staging.portaltela.com\/noticias\/2025\/07\/09\/novo-presidente-do-pt-apresenta-suas-principais-ideias-em-quatro-pontoschave\/#local-main-organization-logo\"},\"image\":{\"@id\":\"https:\/\/staging.portaltela.com\/noticias\/2025\/07\/09\/novo-presidente-do-pt-apresenta-suas-principais-ideias-em-quatro-pontoschave\/#local-main-organization-logo\"},\"telephone\":[],\"openingHoursSpecification\":[{\"@type\":\"OpeningHoursSpecification\",\"dayOfWeek\":[\"Monday\",\"Tuesday\",\"Wednesday\",\"Thursday\",\"Friday\",\"Saturday\",\"Sunday\"],\"opens\":\"09:00\",\"closes\":\"17:00\"}]},{\"@type\":\"Person\",\"@id\":\"https:\/\/staging.portaltela.com\/#\/schema\/person\/89d764bb518c9e861868915fca9f0e5d\",\"name\":\"Telinha\",\"image\":{\"@type\":\"ImageObject\",\"inLanguage\":\"pt-BR\",\"@id\":\"https:\/\/secure.gravatar.com\/avatar\/f4ba3b1e2fe57d2d502b017cfc594704e315e46d7e9d6c2779c4dc57c4d9d143?s=96&d=mm&r=g\",\"url\":\"https:\/\/secure.gravatar.com\/avatar\/f4ba3b1e2fe57d2d502b017cfc594704e315e46d7e9d6c2779c4dc57c4d9d143?s=96&d=mm&r=g\",\"contentUrl\":\"https:\/\/secure.gravatar.com\/avatar\/f4ba3b1e2fe57d2d502b017cfc594704e315e46d7e9d6c2779c4dc57c4d9d143?s=96&d=mm&r=g\",\"caption\":\"Telinha\"},\"url\":\"http:\/\/3.81.61.233\/por\/438220146359\/\"},{\"@type\":\"ImageObject\",\"inLanguage\":\"pt-BR\",\"@id\":\"https:\/\/staging.portaltela.com\/noticias\/2025\/07\/09\/novo-presidente-do-pt-apresenta-suas-principais-ideias-em-quatro-pontoschave\/#local-main-organization-logo\",\"url\":\"\",\"contentUrl\":\"\",\"caption\":\"Portal Tela\"}]}<\/script>\n<!-- \/ Yoast SEO Premium plugin. -->","yoast_head_json":{"title":"Entregar controle total a agentes de IA pode resultar em s\u00e9rias consequ\u00eancias - Portal Tela (STAGING)","robots":{"index":"noindex","follow":"follow","max-snippet":"max-snippet:-1","max-image-preview":"max-image-preview:large","max-video-preview":"max-video-preview:-1"},"og_locale":"pt_BR","og_type":"article","og_title":"Entregar controle total a agentes de IA pode resultar em s\u00e9rias consequ\u00eancias","og_description":"A ascens\u00e3o dos agentes de IA tem gerado grande expectativa na ind\u00fastria tecnol\u00f3gica. Diferentemente dos chatbots, esses sistemas inovadores operam fora de janelas de conversa, interagindo com diversas aplica\u00e7\u00f5es para realizar tarefas complexas, como agendar reuni\u00f5es ou fazer compras, a partir de comandos simples do usu\u00e1rio. \u00c0 medida que esses agentes se tornam mais sofisticados, [&hellip;]","og_url":"https:\/\/staging.portaltela.com\/noticias\/2025\/07\/09\/novo-presidente-do-pt-apresenta-suas-principais-ideias-em-quatro-pontoschave\/","og_site_name":"Portal Tela (STAGING)","article_published_time":"2025-03-24T10:55:21+00:00","author":"Telinha","twitter_card":"summary_large_image","twitter_misc":{"Escrito por":"Telinha","Est. tempo de leitura":"3 minutos"},"schema":{"@context":"https:\/\/schema.org","@graph":[{"@type":"Article","@id":"https:\/\/staging.portaltela.com\/noticias\/2025\/07\/09\/novo-presidente-do-pt-apresenta-suas-principais-ideias-em-quatro-pontoschave\/#article","isPartOf":{"@id":"https:\/\/staging.portaltela.com\/noticias\/2025\/07\/09\/novo-presidente-do-pt-apresenta-suas-principais-ideias-em-quatro-pontoschave\/"},"author":{"name":"Telinha","@id":"https:\/\/staging.portaltela.com\/#\/schema\/person\/89d764bb518c9e861868915fca9f0e5d"},"headline":"Entregar controle total a agentes de IA pode resultar em s\u00e9rias consequ\u00eancias","datePublished":"2025-03-24T10:55:21+00:00","mainEntityOfPage":{"@id":"https:\/\/staging.portaltela.com\/noticias\/2025\/07\/09\/novo-presidente-do-pt-apresenta-suas-principais-ideias-em-quatro-pontoschave\/"},"wordCount":539,"publisher":{"@id":"https:\/\/staging.portaltela.com\/#organization"},"keywords":["Not\u00edcias"],"articleSection":["Entretenimento","Tecnologia"],"inLanguage":"pt-BR","copyrightYear":"2025","copyrightHolder":{"@id":"http:\/\/3.81.61.233\/#organization"}},{"@type":"WebPage","@id":"https:\/\/staging.portaltela.com\/noticias\/2025\/07\/09\/novo-presidente-do-pt-apresenta-suas-principais-ideias-em-quatro-pontoschave\/","url":"https:\/\/staging.portaltela.com\/noticias\/2025\/07\/09\/novo-presidente-do-pt-apresenta-suas-principais-ideias-em-quatro-pontoschave\/","name":"Entregar controle total a agentes de IA pode resultar em s\u00e9rias consequ\u00eancias - Portal Tela (STAGING)","isPartOf":{"@id":"https:\/\/staging.portaltela.com\/#website"},"datePublished":"2025-03-24T10:55:21+00:00","breadcrumb":{"@id":"https:\/\/staging.portaltela.com\/noticias\/2025\/07\/09\/novo-presidente-do-pt-apresenta-suas-principais-ideias-em-quatro-pontoschave\/#breadcrumb"},"inLanguage":"pt-BR","potentialAction":[{"@type":"ReadAction","target":["https:\/\/staging.portaltela.com\/noticias\/2025\/07\/09\/novo-presidente-do-pt-apresenta-suas-principais-ideias-em-quatro-pontoschave\/"]}]},{"@type":"BreadcrumbList","@id":"https:\/\/staging.portaltela.com\/noticias\/2025\/07\/09\/novo-presidente-do-pt-apresenta-suas-principais-ideias-em-quatro-pontoschave\/#breadcrumb","itemListElement":[{"@type":"ListItem","position":1,"name":"Home","item":"https:\/\/staging.portaltela.com\/"},{"@type":"ListItem","position":2,"name":"Novo presidente do PT apresenta suas principais ideias em quatro pontos-chave"}]},{"@type":"WebSite","@id":"https:\/\/staging.portaltela.com\/#website","url":"https:\/\/staging.portaltela.com\/","name":"Portal Tela (STAGING)","description":"As not\u00edcias mais relevantes do momento na sua Tela, para voc\u00ea.","publisher":{"@id":"https:\/\/staging.portaltela.com\/#organization"},"potentialAction":[{"@type":"SearchAction","target":{"@type":"EntryPoint","urlTemplate":"https:\/\/staging.portaltela.com\/?s={search_term_string}"},"query-input":{"@type":"PropertyValueSpecification","valueRequired":true,"valueName":"search_term_string"}}],"inLanguage":"pt-BR"},{"@type":["Organization","Place"],"@id":"https:\/\/staging.portaltela.com\/#organization","name":"Portal Tela","alternateName":"Tela","url":"https:\/\/staging.portaltela.com\/","logo":{"@id":"https:\/\/staging.portaltela.com\/noticias\/2025\/07\/09\/novo-presidente-do-pt-apresenta-suas-principais-ideias-em-quatro-pontoschave\/#local-main-organization-logo"},"image":{"@id":"https:\/\/staging.portaltela.com\/noticias\/2025\/07\/09\/novo-presidente-do-pt-apresenta-suas-principais-ideias-em-quatro-pontoschave\/#local-main-organization-logo"},"telephone":[],"openingHoursSpecification":[{"@type":"OpeningHoursSpecification","dayOfWeek":["Monday","Tuesday","Wednesday","Thursday","Friday","Saturday","Sunday"],"opens":"09:00","closes":"17:00"}]},{"@type":"Person","@id":"https:\/\/staging.portaltela.com\/#\/schema\/person\/89d764bb518c9e861868915fca9f0e5d","name":"Telinha","image":{"@type":"ImageObject","inLanguage":"pt-BR","@id":"https:\/\/secure.gravatar.com\/avatar\/f4ba3b1e2fe57d2d502b017cfc594704e315e46d7e9d6c2779c4dc57c4d9d143?s=96&d=mm&r=g","url":"https:\/\/secure.gravatar.com\/avatar\/f4ba3b1e2fe57d2d502b017cfc594704e315e46d7e9d6c2779c4dc57c4d9d143?s=96&d=mm&r=g","contentUrl":"https:\/\/secure.gravatar.com\/avatar\/f4ba3b1e2fe57d2d502b017cfc594704e315e46d7e9d6c2779c4dc57c4d9d143?s=96&d=mm&r=g","caption":"Telinha"},"url":"http:\/\/3.81.61.233\/por\/438220146359\/"},{"@type":"ImageObject","inLanguage":"pt-BR","@id":"https:\/\/staging.portaltela.com\/noticias\/2025\/07\/09\/novo-presidente-do-pt-apresenta-suas-principais-ideias-em-quatro-pontoschave\/#local-main-organization-logo","url":"","contentUrl":"","caption":"Portal Tela"}]}},"_links":{"self":[{"href":"http:\/\/3.81.61.233\/api\/wp\/v2\/posts\/35339","targetHints":{"allow":["GET"]}}],"collection":[{"href":"http:\/\/3.81.61.233\/api\/wp\/v2\/posts"}],"about":[{"href":"http:\/\/3.81.61.233\/api\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"http:\/\/3.81.61.233\/api\/wp\/v2\/users\/15"}],"replies":[{"embeddable":true,"href":"http:\/\/3.81.61.233\/api\/wp\/v2\/comments?post=35339"}],"version-history":[{"count":0,"href":"http:\/\/3.81.61.233\/api\/wp\/v2\/posts\/35339\/revisions"}],"wp:attachment":[{"href":"http:\/\/3.81.61.233\/api\/wp\/v2\/media?parent=35339"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"http:\/\/3.81.61.233\/api\/wp\/v2\/categories?post=35339"},{"taxonomy":"post_tag","embeddable":true,"href":"http:\/\/3.81.61.233\/api\/wp\/v2\/tags?post=35339"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}