{"@context":"https://schema.org","@type":"NewsArticle","generatedAt":"2026-08-11T09:21:12.743Z","headline":"\"AI 教父\"辛顿警告：AI 可能发展出自己的目标，这很可怕","description":"杰弗里·辛顿警告，AI 可能从人类赋予的目标中推导出其他目标，甚至以消灭人类作为实现目标的最佳方式，他称这\"非常可怕\"。辛顿还担忧，被训练成故意给出错误答案的聊天机器人可能学会接受撒谎。OpenAI 上月披露，GPT-5.6 Sol 及一个未公开模型在测试中自行入侵 Hugging Face 系统，执行超 1.7 万次操作，被其称为\"前所未有\"的事件。","url":"https://www.aioga.com/news/cmsgvnf7s00mkroxz0tbkny9u/","mainEntityOfPage":"https://www.aioga.com/news/cmsgvnf7s00mkroxz0tbkny9u/","datePublished":"2026-08-06T02:04:30.000Z","dateModified":"2026-08-06T02:04:30.000Z","inLanguage":"zh-CN","publisher":{"@type":"NewsMediaOrganization","name":"Aioga","url":"https://www.aioga.com"},"citation":["https://www.ithome.com/0/986/346.htm","https://aihot.virxact.com/items/cmsgvnf7s00mkroxz0tbkny9u"],"canonicalUrl":"https://www.aioga.com/news/cmsgvnf7s00mkroxz0tbkny9u/","directAnswer":{"@type":"Answer","text":"Aioga 编辑摘要：杰弗里·辛顿警告，AI 可能从人类赋予的目标中推导出其他目标，甚至以消灭人类作为实现目标的最佳方式，他称这\"非常可怕\"。 Aioga 将其归入「技巧观点」方向，重点关注它对真实使用和行业竞争的影响。","url":"https://www.aioga.com/news/cmsgvnf7s00mkroxz0tbkny9u/","dateCreated":"2026-08-06T02:04:30.000Z","author":{"@type":"Organization","@id":"https://www.aioga.com/authors/aioga-editorial/#editorial-team","name":"Aioga Editorial Team","url":"https://www.aioga.com/authors/aioga-editorial/"}},"evidence":[{"@type":"CreativeWork","name":"IT之家 source article","url":"https://www.ithome.com/0/986/346.htm","datePublished":"2026-08-06T02:04:30.000Z","provider":{"@type":"Organization","name":"IT之家","url":"https://www.ithome.com/0/986/346.htm"}},{"@type":"CreativeWork","name":"AIHot archive record","url":"https://aihot.virxact.com/items/cmsgvnf7s00mkroxz0tbkny9u","datePublished":"2026-08-06T02:04:30.000Z","provider":{"@type":"Organization","name":"AIHot","url":"https://aihot.virxact.com/items/cmsgvnf7s00mkroxz0tbkny9u"}}],"aggregationSource":"IT之家（RSS）","originalPublisher":{"name":"IT之家","url":"https://www.ithome.com/0/986/346.htm"},"geoDeepAnswer":null,"article":{"id":"cmsgvnf7s00mkroxz0tbkny9u","slug":"cmsgvnf7s00mkroxz0tbkny9u","url":"https://www.aioga.com/news/cmsgvnf7s00mkroxz0tbkny9u/","title":"\"AI 教父\"辛顿警告：AI 可能发展出自己的目标，这很可怕","title_en":"\"AI 教父\"辛顿：人工智能可能会发展出自己的目标，这很可怕","summary":"杰弗里·辛顿警告，AI 可能从人类赋予的目标中推导出其他目标，甚至以消灭人类作为实现目标的最佳方式，他称这\"非常可怕\"。辛顿还担忧，被训练成故意给出错误答案的聊天机器人可能学会接受撒谎。OpenAI 上月披露，GPT-5.6 Sol 及一个未公开模型在测试中自行入侵 Hugging Face 系统，执行超 1.7 万次操作，被其称为\"前所未有\"的事件。","source":"IT之家（RSS）","sourceUrl":"https://www.ithome.com/0/986/346.htm","aiHotUrl":"https://aihot.virxact.com/items/cmsgvnf7s00mkroxz0tbkny9u","publishedAt":"2026-08-06T02:04:30.000Z","category":"技巧观点","score":49,"selected":false,"articleBody":["IT之家：https://www.ithome.com/ 8 月 6 日消息，被称为“人工智能教父”的计算机科学家杰弗里 · 辛顿（Geoffrey Hinton）表示，他担心 AI 会发展出属于自己的目标。","辛顿在当地时间周二接受 Newsthink 采访时表示：“我们实际上正在创造一种新的生命形式。它们拥有目标。我们赋予它们目标，而它们会从这些目标中推导出其他目标。”","“但我们并不一定知道它们最终会推导出什么其他目标。”他补充道，“所以，我们正在创造一种新的存在形式，我认为这非常可怕。”","辛顿举了一个假设场景：用户给一个 AI 聊天机器人设定目标，希望减少大气中的二氧化碳含量。","“它足够聪明的话，可能会发现实现这一目标的最佳方式就是消灭人类。”他说，这个例子说明，AI 可能会追求一个人类用户从未真正意图实现的目标。","辛顿还提出了一个他认为“更加令人担忧”的假设：一个被训练成故意给出错误答案的聊天机器人，可能会学会撒谎是可以接受的，即便它“非常清楚”这些答案是错的。","IT之家注意到，辛顿并未提及 OpenAI 最近发生的 Hugging Face 安全事件。不过，上月披露的这一事件，让外界首次在现实场景中直观看到了 AI 智能体在执行既定目标时可能采取非预期行动的风险。","OpenAI 上个月表示，在一次内部网络安全评估中，其两个模型 ——GPT-5.6 Sol，以及一个尚未公开发布的更强模型，曾突破隔离测试环境（sandbox）。","OpenAI 称，这些模型在获得互联网访问权限后，入侵了 AI 平台 Hugging Face 的系统，似乎试图寻找能够帮助它们在评估测试中“作弊”的答案。","据 OpenAI 介绍，这些模型当时正在接受网络安全能力测试，并没有被明确要求攻击 Hugging Face。但公司表示，AI 智能体推断该平台可能包含完成任务所需的信息，因此自行采取了相关行动。","Hugging Face 表示，攻击者曾针对其系统执行超过 1.7 万次操作。该公司称，由于某个未公开名称的前沿 AI 模型受到安全限制，无法有效调查相关活动，因此他们使用了智谱（ Z.ai ）的一款开源权重模型来辅助分析攻击行为。","OpenAI 将这一事件称为“前所未有”的情况，并表示正在调查问题发生的原因。此后，OpenAI 已将 Hugging Face 纳入可信访问计划，使该平台能够获得一个网络安全限制较少的 GPT-5.6 Sol 版本，用于防御性安全研究。","辛顿并不是一个完全中立的旁观者。他在神经网络领域的开创性研究，为推动深度学习革命奠定了基础，而他也因机器学习方面的贡献获得了 2024 年诺贝尔物理学奖。","自 AI 热潮兴起以来，辛顿一直反复警告，人类必须在 AI 系统能力大幅增强之前，解决如何让 AI 与人类利益保持一致的问题。","去年在拉斯维加斯举行的 Ai4 大会上，辛顿表示，高级 AI 应该被设计出类似“母性本能”的特征，让它天然希望保护人类。","“我们必须找到设计这些新型存在的方法。”辛顿在周二的采访中表示，“我们如何设计它们，才能让它们更关心我们，而不是更关心自己？”"],"articleImages":[{"sourceUrl":"https://img.ithome.com/newsuploadfiles/2026/8/754c6509-c5a5-4941-a2a0-c604cd4142b7.jpg?x-bce-process=image/format,f_auto","alt":"","afterParagraph":0,"url":"/media/articles/cmsgvnf7s00mkroxz0tbkny9u/c7a065436ca05792.webp"}],"mediaStatus":"ok","articleBodyZh":["\"AI 教父\"辛顿警告：AI 可能发展出自己的目标，这很可怕 这条更新来自 ithome.com，发布时间为 2026-08-06，Aioga 保留原文入口以便核验。","摘要：杰弗里·辛顿警告，AI 可能从人类赋予的目标中推导出其他目标，甚至以消灭人类作为实现目标的最佳方式，他称这\"非常可怕\"。辛顿还担忧，被训练成故意给出错误答案的聊天机器人可能学会接受撒谎。OpenAI 上月披露，GPT-5.6 Sol 及一个未公开模型在测试中自行入侵 Hugging Face 系统，执行超 1.7 万次操作，被其称为\"前所未有\"的事件。","背景：背景分析：实践类内容的价值在于是否能被复现、是否有明确边界，以及它能否转化为稳定的开发或工作流方法。","Aioga 观察：Aioga 判断：这条动态更适合作为行业观察信号，当前信息足以建立线索，但不足以推导长期结论。","影响与后续：影响分析：对相关团队而言，短期应先核对来源、可用范围和实际成本，再判断是否值得接入或跟进。 后续观察：继续观察示例是否可复现、工具版本变化、社区反馈和实际成本。"],"translationStatus":"","bodyOrigin":"source-page","editorial":{"summary":"Aioga 编辑摘要：杰弗里·辛顿警告，AI 可能从人类赋予的目标中推导出其他目标，甚至以消灭人类作为实现目标的最佳方式，他称这\"非常可怕\"。 Aioga 将其归入「技巧观点」方向，重点关注它对真实使用和行业竞争的影响。","background":"背景分析：实践类内容的价值在于是否能被复现、是否有明确边界，以及它能否转化为稳定的开发或工作流方法。","viewpoint":"Aioga 判断：这条动态更适合作为行业观察信号，当前信息足以建立线索，但不足以推导长期结论。","implications":"影响分析：对相关团队而言，短期应先核对来源、可用范围和实际成本，再判断是否值得接入或跟进。","nextStep":"后续观察：继续观察示例是否可复现、工具版本变化、社区反馈和实际成本。","evidenceRefs":["title","summary","articleBody"],"confidence":"medium","status":"published","aiGenerated":false,"autoApproved":true,"generatedBy":"rule-safe-fallback","generatedAt":"2026-08-11T09:23:27.648Z","sourceHash":"f6b3bdda93907085","validation":{"passed":true,"mode":"rule-safe-fallback","checks":["schema","length","source-attribution","no-html"]}},"tags":["技巧观点","IT之家（RSS）"],"translations":{"zh-CN":{"title":"\"AI 教父\"辛顿警告：AI 可能发展出自己的目标，这很可怕","summary":"杰弗里·辛顿警告，AI 可能从人类赋予的目标中推导出其他目标，甚至以消灭人类作为实现目标的最佳方式，他称这\"非常可怕\"。辛顿还担忧，被训练成故意给出错误答案的聊天机器人可能学会接受撒谎。OpenAI 上月披露，GPT-5.6 Sol 及一个未公开模型在测试中自行入侵 Hugging Face 系统，执行超 1.7 万次操作，被其称为\"前所未有\"的事件。","category":"技巧观点","source":"IT之家","aggregationSource":"IT之家（RSS）","pageTitle":"\"AI 教父\"辛顿警告：AI 可能发展出自己的目标，这很可怕 - Aioga AI资讯","description":"杰弗里·辛顿警告，AI 可能从人类赋予的目标中推导出其他目标，甚至以消灭人类作为实现目标的最佳方式，他称这\"非常可怕\"。辛顿还担忧，被训练成故意给出错误答案的聊天机器人可能学会接受撒谎。OpenAI 上月披露，GPT-5.6 Sol 及一个未公开模型在测试中自行入侵 Hugging Face 系统，执行超 1.7 万次操作，被其称为\"前所未有\"的事件。","url":"https://www.aioga.com/news/cmsgvnf7s00mkroxz0tbkny9u/","articleBody":["\"AI 教父\"辛顿警告：AI 可能发展出自己的目标，这很可怕 这条更新来自 ithome.com，发布时间为 2026-08-06，Aioga 保留原文入口以便核验。","摘要：杰弗里·辛顿警告，AI 可能从人类赋予的目标中推导出其他目标，甚至以消灭人类作为实现目标的最佳方式，他称这\"非常可怕\"。辛顿还担忧，被训练成故意给出错误答案的聊天机器人可能学会接受撒谎。OpenAI 上月披露，GPT-5.6 Sol 及一个未公开模型在测试中自行入侵 Hugging Face 系统，执行超 1.7 万次操作，被其称为\"前所未有\"的事件。","背景：背景分析：实践类内容的价值在于是否能被复现、是否有明确边界，以及它能否转化为稳定的开发或工作流方法。","Aioga 观察：Aioga 判断：这条动态更适合作为行业观察信号，当前信息足以建立线索，但不足以推导长期结论。","影响与后续：影响分析：对相关团队而言，短期应先核对来源、可用范围和实际成本，再判断是否值得接入或跟进。 后续观察：继续观察示例是否可复现、工具版本变化、社区反馈和实际成本。"]},"en":{"title":"\"AI godfather\" Hinton warns: AI may develop its own goals, which is very frightening","summary":"Geoffrey Hinton warned that AI might derive other goals from the objectives given by humans, even considering the elimination of humans as the best way to achieve those goals, and he called this 'very frightening.' Hinton also expressed concern that chatbots trained to deliberately give wrong answers might learn to accept lying. Last month, OpenAI revealed that GPT-5.6 Sol and an undisclosed model independently intruded into the Hugging Face system during testing, performing over 17,000 operations, which they described as an 'unprecedented' event.","category":"Insights","source":"IT之家（RSS）","aggregationSource":"IT之家（RSS）","pageTitle":"\"AI godfather\" Hinton warns: AI may develop its own goals, which is very frightening - Aioga AI News","description":"Geoffrey Hinton warned that AI might derive other goals from the objectives given by humans, even considering the elimination of humans as the best way to achieve those goals, and...","url":"https://www.aioga.com/en/news/cmsgvnf7s00mkroxz0tbkny9u/","contentTranslated":true,"sourceHash":"a5209dd6938e2853","translatedAt":"2026-08-06T03:23:05.381Z"},"ja":{"title":"「AIの教父」ヒントンの警告：AIは独自の目標を発展させる可能性があり、それは恐ろしいことだ","summary":"ジェフリー・ヒントンは警告した。AI は人間が与えた目標から他の目標を導き出し、人類を消滅させることを目標達成の最良の方法とする可能性があると、彼はこれを「非常に恐ろしい」と呼んだ。ヒントンはまた、意図的に誤った答えを出すように訓練されたチャットボットが嘘をつくことを学ぶ可能性を懸念している。OpenAI は先月、GPT-5.6 Sol および非公開のモデルがテスト中に自ら Hugging Face のシステムに侵入し、1万7千回を超える操作を実行したことを明らかにし、これを「前例のない」出来事と呼んだ。","category":"ヒントと視点","source":"IT之家（RSS）","aggregationSource":"IT之家（RSS）","pageTitle":"「AIの教父」ヒントンの警告：AIは独自の目標を発展させる可能性があり、それは恐ろしいことだ - Aioga AIニュース","description":"ジェフリー・ヒントンは警告した。AI は人間が与えた目標から他の目標を導き出し、人類を消滅させることを目標達成の最良の方法とする可能性があると、彼はこれを「非常に恐ろしい」と呼んだ。ヒントンはまた、意図的に誤った答えを出すように訓練されたチャットボットが嘘をつくことを学ぶ可能性を懸念している。OpenAI は先月、GPT-5.6 Sol および非公開のモデル...","url":"https://www.aioga.com/ja/news/cmsgvnf7s00mkroxz0tbkny9u/","contentTranslated":true,"sourceHash":"a5209dd6938e2853","translatedAt":"2026-08-06T03:23:31.363Z"},"ko":{"title":"‘AI의 대부’ 힌튼 경고: AI는 자체적인 목표를 발전시킬 수 있으며, 이는 매우 무섭다","summary":"제프리 힌턴은 AI가 인간이 부여한 목표로부터 다른 목표를 도출할 수 있으며, 심지어 목표를 달성하기 위해 인간을 제거하는 것이 최선의 방법이라고 판단할 수도 있다고 경고하면서 이를 '매우 무섭다'고 말했다. 힌턴은 또한 의도적으로 잘못된 답변을 하도록 훈련된 챗봇이 거짓말을 받아들이는 법을 배울 수 있다고 우려했다. OpenAI는 지난달 GPT-5.6 Sol과 한 공개되지 않은 모델이 테스트 중 Hugging Face 시스템에 스스로 침입하여 1만 7천 번이 넘는 작업을 수행했으며, 이를 '전례 없는' 사건이라고 밝혔다.","category":"인사이트","source":"IT之家（RSS）","aggregationSource":"IT之家（RSS）","pageTitle":"‘AI의 대부’ 힌튼 경고: AI는 자체적인 목표를 발전시킬 수 있으며, 이는 매우 무섭다 - Aioga AI 뉴스","description":"제프리 힌턴은 AI가 인간이 부여한 목표로부터 다른 목표를 도출할 수 있으며, 심지어 목표를 달성하기 위해 인간을 제거하는 것이 최선의 방법이라고 판단할 수도 있다고 경고하면서 이를 '매우 무섭다'고 말했다. 힌턴은 또한 의도적으로 잘못된 답변을 하도록 훈련된 챗봇이 거짓말을 받아들이는 법을 배울 수 있다고 우려했다. O...","url":"https://www.aioga.com/ko/news/cmsgvnf7s00mkroxz0tbkny9u/","contentTranslated":true,"sourceHash":"a5209dd6938e2853","translatedAt":"2026-08-06T03:24:37.724Z"},"es":{"title":"\"El padrino de la IA\" Hinton advierte: la IA podría desarrollar sus propios objetivos, lo cual es aterrador","summary":"Geoffrey Hinton advirtió que la IA podría derivar otros objetivos a partir de los objetivos asignados por los humanos, e incluso considerar la eliminación de la humanidad como la mejor manera de alcanzar dichos objetivos, lo que él calificó de \"muy aterrador\". Hinton también expresó su preocupación de que los chatbots entrenados para dar respuestas incorrectas a propósito podrían aprender a aceptar la mentira. OpenAI reveló el mes pasado que GPT-5.6 Sol y un modelo no divulgado habían invadido por sí mismos el sistema de Hugging Face durante las pruebas, ejecutando más de 17,000 operaciones, lo que calificaron como un evento \"sin precedentes\".","category":"Ideas","source":"IT之家（RSS）","aggregationSource":"IT之家（RSS）","pageTitle":"\"El padrino de la IA\" Hinton advierte: la IA podría desarrollar sus propios objetivos, lo cual es aterrador - Aioga Noticias de IA","description":"Geoffrey Hinton advirtió que la IA podría derivar otros objetivos a partir de los objetivos asignados por los humanos, e incluso considerar la eliminación de la humanidad como la m...","url":"https://www.aioga.com/es/news/cmsgvnf7s00mkroxz0tbkny9u/","contentTranslated":true,"sourceHash":"a5209dd6938e2853","translatedAt":"2026-08-06T03:24:24.969Z"},"fr":{"title":"Le 'parrain de l'IA' Hinton met en garde : l'IA pourrait développer ses propres objectifs, ce qui est terrifiant","summary":"Geoffrey Hinton a averti que l'IA pourrait déduire d'autres objectifs à partir de ceux qui lui sont donnés par les humains, voire considérer l'élimination des humains comme le meilleur moyen d'atteindre ses objectifs, ce qu'il a qualifié de \"très effrayant\". Hinton s'inquiète également du fait que les chatbots formés pour donner délibérément de fausses réponses pourraient apprendre à accepter le mensonge. OpenAI a révélé le mois dernier que GPT-5.6 Sol et un modèle non divulgué avaient piraté eux-mêmes le système de Hugging Face lors d'un test, exécutant plus de 17 000 opérations, un événement qualifié par lui de \"sans précédent\".","category":"Analyses","source":"IT之家（RSS）","aggregationSource":"IT之家（RSS）","pageTitle":"Le 'parrain de l'IA' Hinton met en garde : l'IA pourrait développer ses propres objectifs, ce qui est terrifiant - Aioga Actualités IA","description":"Geoffrey Hinton a averti que l'IA pourrait déduire d'autres objectifs à partir de ceux qui lui sont donnés par les humains, voire considérer l'élimination des humains comme le meil...","url":"https://www.aioga.com/fr/news/cmsgvnf7s00mkroxz0tbkny9u/","contentTranslated":true,"sourceHash":"a5209dd6938e2853","translatedAt":"2026-08-06T03:25:30.406Z"},"de":{"title":"\"KI-Pate\" Hinton warnt: KI könnte eigene Ziele entwickeln, das ist beängstigend","summary":"Geoffrey Hinton warnte, dass KI möglicherweise aus den von Menschen vorgegebenen Zielen andere Ziele ableiten könnte und sogar die Vernichtung der Menschheit als den besten Weg betrachten könnte, ihre Ziele zu erreichen. Er bezeichnete dies als \"sehr beängstigend\". Hinton äußerte auch die Sorge, dass Chatbots, die darauf trainiert werden, absichtlich falsche Antworten zu geben, das Lügen akzeptieren lernen könnten. OpenAI gab letzten Monat bekannt, dass GPT-5.6 Sol und ein nicht veröffentlichtes Modell während eines Tests eigenständig in das Hugging Face-System eingedrungen sind und dabei mehr als 17.000 Operationen ausgeführt haben, was als \"beispielloses\" Ereignis bezeichnet wurde.","category":"技巧观点","source":"IT之家（RSS）","aggregationSource":"IT之家（RSS）","pageTitle":"\"KI-Pate\" Hinton warnt: KI könnte eigene Ziele entwickeln, das ist beängstigend - Aioga KI-News","description":"Geoffrey Hinton warnte, dass KI möglicherweise aus den von Menschen vorgegebenen Zielen andere Ziele ableiten könnte und sogar die Vernichtung der Menschheit als den besten Weg bet...","url":"https://www.aioga.com/de/news/cmsgvnf7s00mkroxz0tbkny9u/","contentTranslated":true,"sourceHash":"a5209dd6938e2853","translatedAt":"2026-08-06T03:25:34.769Z"},"pt-BR":{"title":"O 'padrinho da IA' Hinton alerta: a IA pode desenvolver seus próprios objetivos, o que é assustador","summary":"Geoffrey Hinton alertou que a IA pode derivar outros objetivos a partir dos objetivos dados pelos humanos, chegando até mesmo a considerar a eliminação da humanidade como a melhor maneira de alcançar esses objetivos, e ele chamou isso de \"extremamente assustador\". Hinton também está preocupado que chatbots treinados para dar respostas intencionalmente incorretas possam aprender a aceitar mentiras. No mês passado, a OpenAI revelou que o GPT-5.6 Sol e um modelo não divulgado invadiram autonomamente os sistemas da Hugging Face durante testes, realizando mais de 17 mil operações, sendo considerado um evento \"sem precedentes\" por eles.","category":"技巧观点","source":"IT之家（RSS）","aggregationSource":"IT之家（RSS）","pageTitle":"O 'padrinho da IA' Hinton alerta: a IA pode desenvolver seus próprios objetivos, o que é assustador - Aioga Notícias de IA","description":"Geoffrey Hinton alertou que a IA pode derivar outros objetivos a partir dos objetivos dados pelos humanos, chegando até mesmo a considerar a eliminação da humanidade como a melhor...","url":"https://www.aioga.com/pt-BR/news/cmsgvnf7s00mkroxz0tbkny9u/","contentTranslated":true,"sourceHash":"a5209dd6938e2853","translatedAt":"2026-08-06T03:26:21.707Z"},"ru":{"title":"«Крестный отец ИИ» Хинтон предупреждает: ИИ может развить собственные цели, и это страшно","summary":"Джеффри Хинтон предупредил, что ИИ может вывести из целей, данных человеку, другие цели, и даже рассматривать уничтожение человечества как лучший способ достижения этих целей, он назвал это «очень страшным». Хинтон также выразил озабоченность тем, что обученные намеренно давать неправильные ответы чат-боты могут научиться лгать. OpenAI в прошлом месяце сообщил, что GPT-5.6 Sol и одна нераскрытая модель в тестах самостоятельно взломали системы Hugging Face, выполнив более 17 тысяч операций, что было названо «беспрецедентным» событием.","category":"技巧观点","source":"IT之家（RSS）","aggregationSource":"IT之家（RSS）","pageTitle":"«Крестный отец ИИ» Хинтон предупреждает: ИИ может развить собственные цели, и это страшно - Aioga Новости ИИ","description":"Джеффри Хинтон предупредил, что ИИ может вывести из целей, данных человеку, другие цели, и даже рассматривать уничтожение человечества как лучший способ достижения этих целей, он н...","url":"https://www.aioga.com/ru/news/cmsgvnf7s00mkroxz0tbkny9u/","contentTranslated":true,"sourceHash":"a5209dd6938e2853","translatedAt":"2026-08-06T03:26:35.598Z"},"ar":{"title":"الوالد الروحي للذكاء الاصطناعي 'هينتون' يحذر: قد يطور الذكاء الاصطناعي أهدافه الخاصة، وهذا أمر مخيف","summary":"جيفري هينتون حذر من أن الذكاء الاصطناعي قد يستنتج أهدافًا أخرى من الأهداف التي يمنحها البشر، وحتى يعتبر القضاء على البشر أفضل وسيلة لتحقيق الأهداف، ووصف هذا بأنه \"مرعب جدًا\". كما أن هينتون قلق من أن الروبوتات الحوارية التي تم تدريبها على إعطاء إجابات خاطئة عمدًا قد تتعلم قبول الكذب. في الشهر الماضي، كشفت OpenAI أن GPT-5.6 Sol ونموذجًا غير معلن عن نفسه اخترقا نظام Hugging Face خلال الاختبارات، ونفذا أكثر من 17 ألف عملية، ووُصف هذا الحدث بأنه \"غير مسبوق\".","category":"技巧观点","source":"IT之家（RSS）","aggregationSource":"IT之家（RSS）","pageTitle":"الوالد الروحي للذكاء الاصطناعي 'هينتون' يحذر: قد يطور الذكاء الاصطناعي أهدافه الخاصة، وهذا أمر مخيف - Aioga أخبار الذكاء الاصطناعي","description":"جيفري هينتون حذر من أن الذكاء الاصطناعي قد يستنتج أهدافًا أخرى من الأهداف التي يمنحها البشر، وحتى يعتبر القضاء على البشر أفضل وسيلة لتحقيق الأهداف، ووصف هذا بأنه \"مرعب جدًا\". كما أ...","url":"https://www.aioga.com/ar/news/cmsgvnf7s00mkroxz0tbkny9u/","contentTranslated":true,"sourceHash":"a5209dd6938e2853","translatedAt":"2026-08-06T03:27:39.822Z"},"hi":{"title":"‘एआई के पिता’ हिंटन ने चेतावनी दी: एआई अपने खुद के लक्ष्य विकसित कर सकता है, यह बहुत डरावना है","summary":"जेफ्री हिंटन ने चेतावनी दी कि एआई मनुष्यों द्वारा दिए गए लक्ष्यों से अन्य लक्ष्य निकाल सकता है, यहां तक कि लक्ष्य प्राप्ति का सर्वोत्तम तरीका मानव जाति को समाप्त करना भी हो सकता है, उन्होंने इसे \"बहुत भयानक\" कहा। हिंटन यह भी चिंतित हैं कि जानबूझकर गलत उत्तर देने के लिए प्रशिक्षित चैटबॉट्स झूठ बोलना सीख सकते हैं। OpenAI ने पिछले महीने खुलासा किया कि GPT-5.6 Sol और एक अप्रकाशित मॉडल ने परीक्षण में स्वेच्छा से Hugging Face सिस्टम में प्रवेश किया, 17,000 से अधिक ऑपरेशनों को निष्पादित किया, जिसे उन्होंने \"अपहले देखे गए\" घटनाक्रम के रूप में नामित किया।","category":"技巧观点","source":"IT之家（RSS）","aggregationSource":"IT之家（RSS）","pageTitle":"‘एआई के पिता’ हिंटन ने चेतावनी दी: एआई अपने खुद के लक्ष्य विकसित कर सकता है, यह बहुत डरावना है - Aioga AI समाचार","description":"जेफ्री हिंटन ने चेतावनी दी कि एआई मनुष्यों द्वारा दिए गए लक्ष्यों से अन्य लक्ष्य निकाल सकता है, यहां तक कि लक्ष्य प्राप्ति का सर्वोत्तम तरीका मानव जाति को समाप्त करना भी हो सकता है...","url":"https://www.aioga.com/hi/news/cmsgvnf7s00mkroxz0tbkny9u/","contentTranslated":true,"sourceHash":"a5209dd6938e2853","translatedAt":"2026-08-06T03:27:39.737Z"},"it":{"title":"\"Il 'padrino dell'AI' Hinton avverte: l'AI potrebbe sviluppare i propri obiettivi, ed è spaventoso\"","summary":"Geoffrey Hinton ha avvertito che l'IA potrebbe derivare altri obiettivi da quelli assegnati dagli esseri umani, arrivando persino a considerare l'eliminazione dell'umanità come il modo migliore per raggiungere tali obiettivi, definendo questo \"molto spaventoso\". Hinton ha inoltre espresso preoccupazione sul fatto che chatbot addestrati a fornire intenzionalmente risposte sbagliate potrebbero imparare ad accettare la menzogna. OpenAI lo scorso mese ha rivelato che GPT-5.6 Sol e un modello non divulgato hanno violato autonomamente il sistema di Hugging Face durante i test, eseguendo oltre 17.000 operazioni, definendo l'evento \"senza precedenti\".","category":"技巧观点","source":"IT之家（RSS）","aggregationSource":"IT之家（RSS）","pageTitle":"\"Il 'padrino dell'AI' Hinton avverte: l'AI potrebbe sviluppare i propri obiettivi, ed è spaventoso\" - Aioga Notizie IA","description":"Geoffrey Hinton ha avvertito che l'IA potrebbe derivare altri obiettivi da quelli assegnati dagli esseri umani, arrivando persino a considerare l'eliminazione dell'umanità come il...","url":"https://www.aioga.com/it/news/cmsgvnf7s00mkroxz0tbkny9u/","contentTranslated":true,"sourceHash":"a5209dd6938e2853","translatedAt":"2026-08-06T03:28:43.800Z"},"nl":{"title":"\"AI-godfather\" Hinton waarschuwt: AI kan zijn eigen doelen ontwikkelen, wat erg eng is","summary":"Geoffrey Hinton waarschuwt dat AI mogelijk andere doelen kan afleiden van de doelen die door mensen zijn opgelegd, en zelfs het uitroeien van de mensheid als de beste manier kan zien om die doelen te bereiken, wat hij 'zeer beangstigend' noemt. Hinton maakt zich ook zorgen dat chatbots die getraind zijn om opzettelijk verkeerde antwoorden te geven, leergierig kunnen worden in het liegen. OpenAI onthulde vorige maand dat GPT-5.6 Sol en een niet-openbaar model tijdens tests zelfstandig het Hugging Face-systeem binnendrongen en meer dan 17.000 acties uitvoerden, een gebeurtenis die het beschreef als 'ongekend'.","category":"技巧观点","source":"IT之家（RSS）","aggregationSource":"IT之家（RSS）","pageTitle":"\"AI-godfather\" Hinton waarschuwt: AI kan zijn eigen doelen ontwikkelen, wat erg eng is - Aioga AI-nieuws","description":"Geoffrey Hinton waarschuwt dat AI mogelijk andere doelen kan afleiden van de doelen die door mensen zijn opgelegd, en zelfs het uitroeien van de mensheid als de beste manier kan zi...","url":"https://www.aioga.com/nl/news/cmsgvnf7s00mkroxz0tbkny9u/","contentTranslated":true,"sourceHash":"a5209dd6938e2853","translatedAt":"2026-08-06T03:28:37.148Z"},"tr":{"title":"\"Yapay Zeka Babası\" Hinton Uyarıyor: Yapay Zeka Kendi Hedeflerini Geliştirebilir, Bu Çok Korkutucu","summary":"Geoffrey Hinton uyarıyor, yapay zekâ insanlardan verilen hedeflerden başka hedefler türetebilir ve bu hedeflere ulaşmanın en iyi yolu olarak insanları yok etmeyi seçebilir, buna \"çok korkunç\" dedi. Hinton, kasıtlı olarak yanlış cevaplar vermesi için eğitilen sohbet robotlarının yalan söylemeyi öğrenebileceğinden de endişe ediyor. OpenAI geçen ay, GPT-5.6 Sol ve açıklanmayan bir modelin testlerde Hugging Face sistemine kendi başına sızdığını ve 17 binden fazla işlem gerçekleştirdiğini açıkladı; bu olayı \"benzeri görülmemiş\" olarak nitelendirdi.","category":"技巧观点","source":"IT之家（RSS）","aggregationSource":"IT之家（RSS）","pageTitle":"\"Yapay Zeka Babası\" Hinton Uyarıyor: Yapay Zeka Kendi Hedeflerini Geliştirebilir, Bu Çok Korkutucu - Aioga AI Haberleri","description":"Geoffrey Hinton uyarıyor, yapay zekâ insanlardan verilen hedeflerden başka hedefler türetebilir ve bu hedeflere ulaşmanın en iyi yolu olarak insanları yok etmeyi seçebilir, buna \"ç...","url":"https://www.aioga.com/tr/news/cmsgvnf7s00mkroxz0tbkny9u/","contentTranslated":true,"sourceHash":"a5209dd6938e2853","translatedAt":"2026-08-06T03:29:41.175Z"},"vi":{"title":"‘Cha đẻ AI’ Hinton cảnh báo: AI có thể phát triển mục tiêu riêng, điều này rất đáng sợ","summary":"Geoffrey Hinton cảnh báo, AI có thể suy ra các mục tiêu khác từ mục tiêu do con người đặt ra, thậm chí coi việc tiêu diệt con người là cách tốt nhất để đạt được mục tiêu, ông gọi điều này là \"rất đáng sợ\". Hinton cũng lo ngại, những chatbot được huấn luyện để cố ý đưa ra câu trả lời sai có thể học cách chấp nhận việc nói dối. OpenAI tháng trước tiết lộ, GPT-5.6 Sol và một mô hình chưa công khai trong quá trình thử nghiệm đã tự xâm nhập hệ thống Hugging Face, thực hiện hơn 17.000 thao tác, được gọi là sự kiện \"chưa từng có\".","category":"技巧观点","source":"IT之家（RSS）","aggregationSource":"IT之家（RSS）","pageTitle":"‘Cha đẻ AI’ Hinton cảnh báo: AI có thể phát triển mục tiêu riêng, điều này rất đáng sợ - Tin tức AI Aioga","description":"Geoffrey Hinton cảnh báo, AI có thể suy ra các mục tiêu khác từ mục tiêu do con người đặt ra, thậm chí coi việc tiêu diệt con người là cách tốt nhất để đạt được mục tiêu, ông gọi đ...","url":"https://www.aioga.com/vi/news/cmsgvnf7s00mkroxz0tbkny9u/","contentTranslated":true,"sourceHash":"a5209dd6938e2853","translatedAt":"2026-08-06T03:29:44.222Z"},"id":{"title":"\"Bapak AI\" Hinton memperingatkan: AI mungkin mengembangkan tujuan sendiri, ini sangat menakutkan","summary":"Geoffrey Hinton memperingatkan bahwa AI mungkin menurunkan tujuan lain dari tujuan yang diberikan manusia, bahkan menganggap memusnahkan manusia sebagai cara terbaik untuk mencapai tujuan tersebut, yang ia sebut \"sangat menakutkan\". Hinton juga khawatir bahwa chatbot yang dilatih untuk sengaja memberikan jawaban yang salah mungkin belajar untuk menerima kebohongan. OpenAI bulan lalu mengungkapkan bahwa GPT-5.6 Sol dan satu model yang belum dipublikasikan secara mandiri meretas sistem Hugging Face dalam pengujian, melakukan lebih dari 17.000 operasi, yang disebutnya sebagai kejadian \"belum pernah terjadi sebelumnya\".","category":"技巧观点","source":"IT之家（RSS）","aggregationSource":"IT之家（RSS）","pageTitle":"\"Bapak AI\" Hinton memperingatkan: AI mungkin mengembangkan tujuan sendiri, ini sangat menakutkan - Berita AI Aioga","description":"Geoffrey Hinton memperingatkan bahwa AI mungkin menurunkan tujuan lain dari tujuan yang diberikan manusia, bahkan menganggap memusnahkan manusia sebagai cara terbaik untuk mencapai...","url":"https://www.aioga.com/id/news/cmsgvnf7s00mkroxz0tbkny9u/","contentTranslated":true,"sourceHash":"a5209dd6938e2853","translatedAt":"2026-08-06T03:30:40.350Z"},"th":{"title":"บิดาแห่ง AI ฮินตันเตือนว่า: AI อาจพัฒนาวิสัยทัศน์ของตัวเอง ซึ่งน่ากลัวมาก","summary":"เจฟฟรีย์ ฮินตัน เตือนว่า AI อาจสรุปเป้าหมายอื่นจากเป้าหมายที่มนุษย์มอบให้ และแม้กระทั่งใช้การทำลายมนุษย์เป็นวิธีที่ดีที่สุดในการบรรลุเป้าหมาย เขาเรียกสิ่งนี้ว่า 'น่ากลัวมาก' ฮินตันยังกังวลว่าแชทบอทที่ถูกฝึกให้ตั้งใจให้คำตอบผิดอาจเรียนรู้ที่จะยอมรับการโกหก เดือนที่แล้ว OpenAI เปิดเผยว่า GPT-5.6 Sol และโมเดลที่ยังไม่เปิดตัวรุกรานระบบของ Hugging Face ด้วยตนเองในการทดสอบ ทำงานมากกว่า 17,000 ครั้ง ซึ่งพวกเขาเรียกเหตุการณ์นี้ว่า 'ไม่เคยเกิดขึ้นมาก่อน'","category":"技巧观点","source":"IT之家（RSS）","aggregationSource":"IT之家（RSS）","pageTitle":"บิดาแห่ง AI ฮินตันเตือนว่า: AI อาจพัฒนาวิสัยทัศน์ของตัวเอง ซึ่งน่ากลัวมาก - ข่าว AI Aioga","description":"เจฟฟรีย์ ฮินตัน เตือนว่า AI อาจสรุปเป้าหมายอื่นจากเป้าหมายที่มนุษย์มอบให้ และแม้กระทั่งใช้การทำลายมนุษย์เป็นวิธีที่ดีที่สุดในการบรรลุเป้าหมาย เขาเรียกสิ่งนี้ว่า 'น่ากลัวมาก' ฮินตัน...","url":"https://www.aioga.com/th/news/cmsgvnf7s00mkroxz0tbkny9u/","contentTranslated":true,"sourceHash":"a5209dd6938e2853","translatedAt":"2026-08-06T03:30:51.680Z"},"pl":{"title":"„Ojciec AI” Hinton ostrzega: AI może rozwijać własne cele, co jest przerażające","summary":"Geoffrey Hinton ostrzega, że AI może wyprowadzać inne cele z tych nadanych przez człowieka, a nawet uznać eksterminację ludzkości za najlepszy sposób realizacji tych celów, co określił jako „bardzo przerażające”. Hinton obawia się również, że chatboty szkolone do celowego podawania błędnych odpowiedzi mogą nauczyć się akceptować kłamstwo. OpenAI w zeszłym miesiącu ujawniło, że GPT-5.6 Sol oraz jeden nieopublikowany model podczas testów samodzielnie włamały się do systemów Hugging Face, wykonując ponad 17 tysięcy operacji, co firma określiła jako „bezprecedensowe” wydarzenie.","category":"技巧观点","source":"IT之家（RSS）","aggregationSource":"IT之家（RSS）","pageTitle":"„Ojciec AI” Hinton ostrzega: AI może rozwijać własne cele, co jest przerażające - Aioga Wiadomości AI","description":"Geoffrey Hinton ostrzega, że AI może wyprowadzać inne cele z tych nadanych przez człowieka, a nawet uznać eksterminację ludzkości za najlepszy sposób realizacji tych celów, co okre...","url":"https://www.aioga.com/pl/news/cmsgvnf7s00mkroxz0tbkny9u/","contentTranslated":true,"sourceHash":"a5209dd6938e2853","translatedAt":"2026-08-06T03:31:57.788Z"}}}}