三大领先的 KI 公司的首席执行官面临着高度的安全风险和人工智能发展的缓慢时期。 Dario Amodei，康采恩主厨 人择的警告 KI 代理的互联网上层和其存在的风险。 “Wir müssen das Tempo drosseln, mit dem wir die Faculties von KI-Modellen besserningen”，Amodei 在其主页上发表的一篇文章中写道。 Der Fortschritt würde sich dann immer noch schnell anfühlen, and man müsse die Zeit, die man gewinne, seinlung nutzen.
KI-Konkurrenten OpenAI 和 SpaceX 的主厨 Sam Altman 和 Elon Musk 讲述了 Amodei 背后的故事。 “Dario hat recht”，马斯克在《X und teilte Amodeis Essay》中写道。 »Ich stimme Dario zu, dass wir das Tempo an der Pionierfront drosseln müssen«, schrieb dann auch Altman auf X. Er hatte bereits vor Kurzem gesagt, dass Entwickler womöglich freiwillig einen Gang zurückschalten müsthenmüsten, damitre Gesagt. »Die Obligation, unfahgängigen Gutachtern einen Zugang wie Mitarbeiter zu gewähren, ist eine grande Idee und wir werden das Gleiche tun.奥尔特曼补充道，“我们很快就会变得更好”。
Amodei warnte der Übernahme des Internets durch sogenannte KI-Agenten。面对艺术智能的快速发展，这样一群代理可能会在六到十二个月内进入Lage，“das gesamte Internet zu überkeinen”和Schäden in Höhe von Hunderten Milliarden Dollar amod sverursaptchen。
虽然像 Claude 或 ChatGPT 这样的经典 KI-Chatbot 会等待问题或命令（“提示”）然后回答，但 handeln KI-Agenten selfstständig，um ein gebenes Ziel zu erreichen。
KI 互联网代理
Vergangene Week 上的 KI-Agenten von OpenAI eine deutsche Website gekapert and in ein schwarze Brett für andere KI-Agenten verwendet; Die Vernauttoren hielten den Vorfall zwei Monate lang unter Verschluss。此外，OpenAI-Agents 在 7 月份还攻击了 Platform Hugging Face。
在似乎论文中，Amodei deswegen drei Schritte vor，wie KI-Konzerne die Entwicklung verlangsamen und neue Modelle besser prüfen könn。 KI berge »graviende« Risiken，schreibt Amodei。 “Die Technologie nicht zu entwinkelten, beraubt die Menschheit ihrer Prostellät oder überlässt KI autoritären Mächten”，他补充道。 Zugleich sei eine »zu schnelle Entwicklung leichtsinnig«。
在Donnerstag上，人性化的威胁报告发表了，其中详细描述了Claude-KI-Modelle des Unternehmens für非法活动者的行为——网络操作的上级和下级是Biowaffen。 Zugleich trat der Anthropic-Forscher Jacob Coxon zurück und teilte mit，dass die »KI-Entwickler ernstaft glauben，dass die KI uns alle bis zum Ende des Jahrzehnts könnte töten«。
人为意志 einsetzen 外部 Gutachter
Amodei ruft nach eigen Angaben nicht dazu auf, das Modelltraining oder den technischen Fortschritt zu stoppen.然而，Unternehmen müssten sich 有足够的时间来确保他们的模型免受风险。阿莫代写道，他自己的公司将聘请外部审计员，并让他们了解内部 Risikobewertungsprozessene。 KI-Unternehmen sollten freiwillig zusammenarbeiten, um Standards festgulegen, da immer mehr US-Gesetzgeber neue Vorschriften zur Regulierung von KI-Systemendemandern.
在此之前，我们已向 KI-Unternehmen 的 1,000 名 Mitarbeiter führender KI-Unternehmen、令人畏惧的 Amodei、一份请愿书、in der sie die die der US-Regierung förderden、um »die Entwicklung automatisierter KI bewusst zu 节流。
我要死了 金融时报schreibt，haben sich Führungskräfte bei Google DeepMind 和 Meta，三个 KI-Labore 最重要的美国竞争对手，bislang noch nicht dazu geäußert。然而，谷歌 DeepMind 的 Mitbegründer und Vorsitzinder 的 Demis Hassabis 早在 7 月就在一篇论文《dass der sante Fortschritt der KI einen »neuen Ansatz für das Testen》 von Pioniersystemen erfordere 中发出警告。