ChatGPT 的誕生，改寫了很多領(lǐng)域游戲規(guī)則。現(xiàn)在，在多地方，學(xué)校和大廠下了 ChatGPT 封殺令。12 月，ChatGPT 大紅大紫之際，就有諸多者和研究人員發(fā)出警：ChatGPT 很可能「殺死」大學(xué)論。最近，紐約市教育就正式對(duì) ChatGPT 下了封殺令。無(wú)獨(dú)有偶，在很多互聯(lián)大廠，ChatGPT 也遭到了封殺。很多已經(jīng)習(xí)慣向 ChatGPT 咨詢代碼問(wèn)題的碼農(nóng)們，原地爆哭…大廠封殺 ChatGPT，碼農(nóng)哭了近日，一位碼農(nóng)在網(wǎng)上發(fā)稱，在自己所在的大，辦公室 wifi 禁用了 ChatGPT。這直接把他整崩潰了。博主表示，自己名初級(jí)軟件工程師，在團(tuán)隊(duì)中，前輩們總很忙，沒(méi)有時(shí)間給他釋問(wèn)題。每當(dāng)他在工中卡住時(shí)，ChatGPT 都是他的救星。但是昨天，當(dāng)他在辦室坐下時(shí)，忽然發(fā)現(xiàn)法訪問(wèn) ChatGPT 了！他瞬間破防。在他的帖子下，熱心友紛紛獻(xiàn)計(jì)。比如，一個(gè)便宜的 VPS 和域名并設(shè)置一個(gè)反代理到 ChatGPT 官網(wǎng)；在瀏覽器中啟用 DoH 和 ECH；使用一個(gè)在線代理；或者在手機(jī)上通電子郵件將輸出結(jié)果送給自己等等。當(dāng)然有網(wǎng)友對(duì)公司的這個(gè)作表示贊同：「你司用 ChatGPT 是很有道理的，好好想，如果你解決公司題的代碼可以很輕易被競(jìng)爭(zhēng)對(duì)手獲得，會(huì)生什么后果吧。」「要向 ChatGPT，或者從 ChatGPT 上復(fù)制粘貼代碼。在法律上，公司或戶的代碼并不屬于你而且你也沒(méi)有 ChatGPT 上代碼的版權(quán)。如果你這么做，讓你面臨訴訟，被解?！沟拇_，已經(jīng)有大向員工發(fā)送電子郵件：「ChatGPT 不是不能用，但是如你往里面上傳代碼，就會(huì)面臨被解雇的風(fēng)，因?yàn)槲覀兊拇a非敏感。」不過(guò)，也有友給出了扎心回復(fù)：如果一個(gè)初級(jí)開(kāi)發(fā)者沒(méi)有 ChatGPT 的情況下，就無(wú)法完成工作，翳鳥么他對(duì)公來(lái)說(shuō)，真的是可有可?！辜~約頒布禁令，生全都禁用就在 1 月 3 日，擁有全美最大公立學(xué)校系統(tǒng)的約市，正式頒布了「ChatGPT 禁令」。也就是說(shuō)，不管是師還是學(xué)生，都無(wú)法紐約市公立學(xué)校的網(wǎng)和設(shè)備上使用 ChatGPT。最近，洛杉磯和巴爾的摩的學(xué)區(qū)加入到了這個(gè)行列。約市教育局發(fā)言人 Jenna Lyle 表示，雖然 ChatGPT 可以提供快速和簡(jiǎn)單的問(wèn)題答案，它不能培養(yǎng)學(xué)生批判思維和解決問(wèn)題的能，而這些對(duì)于學(xué)術(shù)和身成功來(lái)說(shuō)至關(guān)重要當(dāng)然，如果學(xué)校的目是研究 ChatGPT 背后的技術(shù)，還是可以申請(qǐng)?jiān)L問(wèn)的。目，ChatGPT 將對(duì)論文作弊的風(fēng)險(xiǎn)產(chǎn)什么影響還有待觀察因?yàn)閷W(xué)生仍然可以在外訪問(wèn)自己的設(shè)備和絡(luò)。而佐治亞州的科縣的態(tài)度，不僅沒(méi)那強(qiáng)硬，甚至還對(duì)采用 ChatGPT 頗有興趣。該學(xué)區(qū)的一位言人表示，「在高素的科布縣教師手中，ChatGPT 可以成為補(bǔ)充學(xué)生對(duì)學(xué)術(shù)內(nèi)理解的寶貴工具，并以幫助學(xué)生發(fā)展批判思維能力?！箤?duì)此，紐約精英高中 Brooklyn Tech 任教的 Adam Stevens 也認(rèn)為，禁用 ChatGPT 反而會(huì)帶來(lái)消極的影響。畢竟在 15、20 年前，當(dāng)學(xué)生可以「在網(wǎng)上找到答」時(shí)，這些人也是這針對(duì)谷歌的。Stevens 認(rèn)為，培養(yǎng)學(xué)生批判性寫作技能的好方法是「邀請(qǐng)他們索值得了解的事情」并遠(yuǎn)離基于嚴(yán)格的評(píng)標(biāo)準(zhǔn)的公式化寫作教?！府?dāng)然，如果你更重學(xué)期末的分?jǐn)?shù)，那 ChatGPT 確實(shí)是一個(gè)威脅?！雇?，俄勒岡州桑迪市的名高中英語(yǔ)老師也有似的看法。Shields 老師有 25 年教齡，她認(rèn)為，其大可不必「談 ChatGPT 色變」，這款 AI 完全可以被用來(lái)幫助學(xué)生產(chǎn)精精想、組織思路，甚至撰整篇論文。在她看來(lái)教師們應(yīng)該接受，AI 是學(xué)生可以使用的一種工具，就像每個(gè)老都教學(xué)生如何使用搜引擎一樣。很多學(xué)生于無(wú)話可寫，此時(shí)教可以使用 ChatGPT 向?qū)W生展示如何生成提示，來(lái)刺激吳回的寫作。Shields 老師曾讓 ChatGPT 以 7 年級(jí)生、10 年級(jí)生和大學(xué)生的風(fēng)格寫同一主題的文章，每個(gè)級(jí)之間的句法差異程度人震驚。因而，完全以使用這種 AI 生成的反饋，來(lái)向?qū)W生示如何改進(jìn)他們的寫。ICML 發(fā)文澄清：主要為防止抄襲，影響潤(rùn)色文章前兩天國(guó)際機(jī)器學(xué)習(xí)會(huì)議 ICML 2023 突然宣布：禁止使用大模語(yǔ)言模型（如 ChatGPT）生成論文的內(nèi)容，除非這些文是實(shí)驗(yàn)分析的一部分要求一經(jīng)提出，便引了眾多研究人員的不：拼寫檢查和文本預(yù)基于的就是語(yǔ)言模型為啥不讓我們用？對(duì) ，圖靈獎(jiǎng)得主 Yann LeCun 評(píng)論道：「大型語(yǔ)言模不能用，意思是換成型和小型語(yǔ)言模型就咯？」隨后還不忘陰一句：「明年的 ICML 道德準(zhǔn)則應(yīng)該變成：研究人員必須徒完成各種計(jì)算，不能助計(jì)算機(jī)；各類圖形須用筆和紙手繪；從天起，ICML 的官方語(yǔ)言變?yōu)槿鸬湔Z(yǔ)（典：？）?！褂捎谝?的討論太過(guò)激烈，ICML 不得不單獨(dú)發(fā)一條長(zhǎng)文來(lái)解釋這個(gè)規(guī)。概括來(lái)說(shuō)，有三個(gè)點(diǎn)：政策禁止完全由 LLM「生成」的文本，但這并影響作者使 LLM 來(lái)編輯或潤(rùn)色自己寫的文本。政主要是防止使用 LLM 可能會(huì)出現(xiàn)的潛在問(wèn)題，比如抄襲。目，政策僅適用于 ICML2023。隨著我們對(duì) LLM 及其對(duì)科學(xué)出版的影響有了深入的了解，這一政可能會(huì)在未來(lái)的會(huì)議發(fā)生變化。公告鏈接https://icml.cc/ Conferences / 2023 / llm-policy大規(guī)模語(yǔ)言模型，爭(zhēng)議叢在過(guò)去的幾年里，大模語(yǔ)言模型（LLM）的發(fā)展非常迅速。最，這一進(jìn)展不僅沒(méi)有緩，甚至還更快了。如大家看到的，過(guò)去個(gè)月發(fā)布的 LLM，如 OpenAI 的 ChatGPT，已經(jīng)能夠生成難以與人相區(qū)分的文本片段。無(wú)疑問(wèn)，這是自然語(yǔ)處理和生成方面令人奮的進(jìn)展。但這種快的進(jìn)展往往伴隨著意不到的后果以及無(wú)法答的問(wèn)題。比如，由型生成的文本和圖像新穎的，還是現(xiàn)有工的衍生品？此外，文片段、圖像以及其他這些模型產(chǎn)生的內(nèi)容又應(yīng)該歸誰(shuí)所有：是成模型的用戶，還是練模型的開(kāi)發(fā)者，抑是制作訓(xùn)練數(shù)據(jù)的內(nèi)創(chuàng)作者？可以肯定的，隨著大規(guī)模生成模被更廣泛地應(yīng)用，這問(wèn)題都將隨著時(shí)間的移得到解答，但現(xiàn)在不行。尤其是距離 ChatGPT 的發(fā)布才過(guò)了不到 2 個(gè)月（2022 年 11 月底）。而對(duì)于 ICML 來(lái)說(shuō)，他們并沒(méi)有足夠的時(shí)間嬰勺觀和調(diào)研 ChatGPT 將會(huì)對(duì)論文審稿和發(fā)表過(guò)程敏山產(chǎn)生何種響?？紤]到針對(duì)這項(xiàng)技術(shù)所采用的策略，直接關(guān)系到研究人員職業(yè)生涯。因此 ICML 表示，自己只能更加謹(jǐn)慎，甚至還會(huì)些保守。時(shí)有錯(cuò)漏，碼農(nóng)依然愛(ài)不釋手其，雖然 ChatGPT 經(jīng)常因?yàn)椤阜复馈苟怀埃剿Q生個(gè)多月來(lái)，很多碼農(nóng)工作習(xí)慣，確實(shí)被它變了。在 12 月初，ChatGPT 亮相后，碼農(nóng)們發(fā)現(xiàn)可用它生成代碼，立馬騰了。ChatGPT 不僅可以回答任何領(lǐng)域的問(wèn)題，而且生成答案，有很大的概率常精確和詳細(xì)。比如當(dāng)你問(wèn)到「How to iterate over an keys and values array in Javascript」時(shí)，它生成了很完美的答吉光。錦上花的是，ChatGPT 還能通過(guò)一個(gè)支持性的例子和解釋，告你這個(gè) JavaScript 中常見(jiàn)問(wèn)題的最佳解決方案：甚，還可以用它給代碼錯(cuò)。不過(guò)隨后，碼農(nóng)馬上發(fā)現(xiàn)，ChatGPT 生成的代碼，其實(shí)有不少問(wèn)題。ChatGPT 會(huì)「犯蠢」，背后原因其實(shí)很簡(jiǎn) ——AI 的輸出，是概率性的。ChatGPT 沒(méi)有任何標(biāo)記了對(duì)錯(cuò)的內(nèi)部記錄，其實(shí)是一個(gè)統(tǒng)計(jì)模型這個(gè)模型中，是在不上下文中的語(yǔ)言組合而上下文的基礎(chǔ)，就 GPT-3 訓(xùn)練所用的整體數(shù)據(jù)集，來(lái) ChatGPT 的 RLHF 訓(xùn)練的額外上下文，prompt 和之前的對(duì)話，以及很快就會(huì)有的反饋ChatGPT 的答案，本質(zhì)上就是從構(gòu) GPT-3 的互聯(lián)網(wǎng)數(shù)據(jù)語(yǔ)料庫(kù)中收集概率結(jié)果。在 10 秒內(nèi)，ChatGPT 做出了結(jié)果的最佳猜測(cè)，這個(gè)猜測(cè)很可能正確的。當(dāng)然，也有誤的概率。這就是為么，網(wǎng)友用 ChatGPT 生成的代碼在 Stack Overflow 上瘋狂灌水、錯(cuò)誤答案滿天飛，后者連夜發(fā)布了官封殺令。雖然 ChatGPT 寫代碼的能力被很多人詬病，但實(shí)，用還是可以用的其實(shí)，ChatGPT 最合適的定位，應(yīng)該是編碼輔助工具。在 ChatGPT 的發(fā)布方 OpenAI 看來(lái)，ChatGPT 的重要用途之一，正是幫助程序員檢查代。對(duì)于開(kāi)發(fā)者而言，就是日益豐富的工具中的一個(gè)工具。而且就像任何自學(xué)模型一，ChatGPT 也會(huì)隨著時(shí)間的推移，斷學(xué)習(xí)，不斷自我糾和改進(jìn)。很多時(shí)候，其在 Stack OverFlow 上為相對(duì)簡(jiǎn)單的問(wèn)題（如在 Flutter 中觸發(fā) HookConsumerWidget 的重建）等待幾天，不如直騶吾向 ChatGPT 提問(wèn)。因?yàn)樵?ChatGPT 上，開(kāi)發(fā)者們有很大概率，得虢山一個(gè)可以于解決問(wèn)題的起點(diǎn) ——參考資料：https://www.businessinsider.com/nyc-schools-ban-chatgpt-cheating-concern-grows-2023-1https://www.theregister.com/2023/01/06/ai_conference_nyc_ban/?td=rt-3ahttps://www.reddit.com/r/ChatGPT/comments/104rp2j/my_company_blocked_chatgpt/本文來(lái)自微信公眾號(hào)：新元 （ID：AI_era）