前言

在一個出人意料的轉折中，人工智慧的錯誤被發現在 NeurIPS，大會是人工智慧界最受尊崇的會議之一。由 GPTZero，一個 AI 檢測新創公司，掃描了於聖地牙哥會議中接受的 4,841 篇論文，揭露了 51 篇論文中有 100 個偽造的引用。儘管 NeurIPS 以嚴謹的學術出版著稱，這些錯誤的引用引起了對 AI 生成引用更廣泛影響的關注。

不起勞

當主要的 AI 研究人員面臨引用困境，這突顯了 AI 在研究中即使在像 NeurIPS 這樣的頂尖平台上，角色的顯著挑戰。

正文

GPTZero 的發現指出 AI 研究領域的一個令人驚訝的發展。神經信息處理系統會議（NeurIPS），一個尖端 AI 論述的燈塔，遇到了一個不尋常的問題：學術論文中的偽造引用。AI 檢測公司 GPTZero 仔細檢查了所有來自聖地牙哥會議接受的論文，並在其中 51 篇找到了 100 個錯誤引用。

雖然在 NeurIPS 被接受的論文是一項重大的成就，但假引文的存在讓人質疑。每篇論文都包含大量引用，而在成千上萬的引用中，100 個偽引用看似微不足道，但它們仍然值得注意。研究的完整性至關重要，而 NeurIPS 強調其對嚴格學術出版的承諾。

對研究人員而言，引用是表明其工作在學術界範圍和影響的重要指標。AI 所生成的引用偽造削弱了它們的價值。呈現準確引用的任務應該由研究人員來完成，因為他們對其研究中參考的來源最為熟悉。

雖然 NeurIPS 的同儕審核員進行了徹底的評估，但由於大量提交文章，這讓他們難以發現 AI 生成的錯誤。GPTZero 在報告中強調了這一挑戰，指出由於提交數量激增，審核管道受到了壓力。

反思這一發現，更廣大的圖景浮現：當頂尖的 AI 專家面對引用真實性的掙扎時，這就提出了對於大型語言模型使用最佳實踐的疑問。這個場景凸顯了即使是 AI 領域的專家在管理他們幫助開發的工具時也面臨困境。這對於在學術研究中更廣泛地採用 AI 意味著什麼？

關鍵洞察表