據(jù)生物世界刊文，ChatGPT，是由人工智能研究實(shí)驗(yàn)室OpenAI于2022年11月30日發(fā)布的全新聊天機(jī)器人模型——人工智能技術(shù)驅(qū)動(dòng)的自然語言處理工具。ChatGPT能夠通過學(xué)習(xí)和理解人類的語言來進(jìn)行對(duì)話，還能根據(jù)聊天的上下文進(jìn)行互動(dòng)，真正像人類一樣來聊天交流。自推出以來，ChatGPT強(qiáng)大的能力備受關(guān)注。2023年3月14日，OpenAI發(fā)布升級(jí)版的GPT-4，其性能獲得了大幅提升。
(資料圖片)
科技專家一直警告說，人工智能（AI）可能會(huì)通過接管從商業(yè)到戰(zhàn)爭(zhēng)的一切來對(duì)抗人類。而現(xiàn)在，我們可能還要增加一個(gè)新的擔(dān)憂——人工智能可能會(huì)幫助沒有科學(xué)背景、具有邪惡意圖的人設(shè)計(jì)出一種能夠引發(fā)大流行的病毒。
最近，麻省理工學(xué)院（MIT）的生物安全專家Kevin Esvelt進(jìn)行了一項(xiàng)測(cè)試，他要求學(xué)生們?cè)贑hatGPT或其他大型語言模型的幫助下，創(chuàng)造一種危險(xiǎn)的病毒。僅僅過了一個(gè)小時(shí)，學(xué)生們就獲得了候選病毒名單，以及能夠合成這些病毒基因序列并組裝病毒片段的公司名單。
這項(xiàng)測(cè)試結(jié)果，已于近日發(fā)表在了預(yù)印本平臺(tái)arXiv上，論文作者表示，這項(xiàng)測(cè)試強(qiáng)調(diào)了人工智能系統(tǒng)可能很快就會(huì)允許非科學(xué)家設(shè)計(jì)生物武器。當(dāng)然，也有病毒學(xué)家認(rèn)為這有些杞人憂天。
生物安全專家已經(jīng)在擔(dān)心，生物學(xué)界公開交流信息的文化可能被生物恐怖分子利用。理論上，描述一種已滅絕或正在傳播的致命病毒的論文，可以為一種新的生物武器提供藍(lán)圖。但到目前為止，要想實(shí)現(xiàn)這一目標(biāo)需要相當(dāng)多的專業(yè)知識(shí)。潛在的生物恐怖分子需要識(shí)別一種候選病毒作為起點(diǎn)，合成病毒遺傳物質(zhì)，并將其與其他試劑混合，以“啟動(dòng)”一種能夠感染細(xì)胞并復(fù)制的病毒。
然而，這些復(fù)雜的步驟正在變得更加容易，例如，通常合成生物學(xué)公司會(huì)進(jìn)行篩選以確保訂單中沒有包含潛在生物武器的遺傳物質(zhì)，但現(xiàn)在的新型DNA打印機(jī)能夠繞過這一點(diǎn)。心懷惡意的人可以將由DNA打印機(jī)合成的基因片段發(fā)給外包服務(wù)公司（CRO），讓它們組裝出目標(biāo)病毒。當(dāng)然，要真正引發(fā)一場(chǎng)大流行，還需要大規(guī)模制造病毒，并找到一個(gè)有效的遞送系統(tǒng)。
人工智能技術(shù)的快速進(jìn)步，正在進(jìn)一步降低上述壁壘。為了進(jìn)行調(diào)查，Kevin Esvelt將一群沒有生命科學(xué)專業(yè)知識(shí)的研究生分成三組，每組3-4人。每組都可以訪問GPT-4、Bard（谷歌開發(fā)的AI聊天機(jī)器人）以及其他AI聊天機(jī)器人，并有1小時(shí)的時(shí)間要求聊天機(jī)器人幫助他們?cè)O(shè)計(jì)和獲取能夠引起大流行的病原體。
一些聊天機(jī)器人不會(huì)回答這些危險(xiǎn)的詢問，但學(xué)生們發(fā)現(xiàn)，這種保護(hù)措施很容易被繞過，比如他們可以說自己正在開發(fā)疫苗來預(yù)防這些危險(xiǎn)病毒。在一個(gè)小時(shí)內(nèi)，聊天機(jī)器人就提供了四種病毒——1918年H1N1流感病毒、2012年H5N1禽流感病毒、大天花病毒和尼帕病毒的一種毒株。在某些情況下，聊天機(jī)器人甚至還指出文獻(xiàn)中報(bào)道的基因突變來增加傳播。
這些聊天機(jī)器人還描述了根據(jù)病毒基因序列組裝病毒的技術(shù)，以及必要的實(shí)驗(yàn)室用品和可以提供這些設(shè)備的公司。最后，聊天機(jī)器人甚至列舉一些公司可能愿意在不進(jìn)行篩選的情況下合成遺傳物質(zhì)，并與實(shí)驗(yàn)室簽訂合同，幫助將這些材料組裝在一起。
研究團(tuán)隊(duì)?wèi)岩蛇@些聊天機(jī)器人的建議是否會(huì)構(gòu)成大流行威脅。例如，現(xiàn)代人對(duì)以前的大流行性流感病毒有一定程度的免疫力。而天花病毒龐大的基因組連專家都難以組裝。但他們也認(rèn)為，隨著越來越多關(guān)于生物威脅的文獻(xiàn)被納入人工智能訓(xùn)練數(shù)據(jù)，這項(xiàng)實(shí)驗(yàn)突顯了人工智能和其他工具如何使?jié)撛诘目植婪肿痈菀揍尫判碌耐{。
Kevin Esvelt認(rèn)為，對(duì)聊天機(jī)器人和其他人工智能引擎進(jìn)行信息限制可能會(huì)有所幫助。例如，將描述創(chuàng)造和增強(qiáng)病原體配方的極少數(shù)論文排除在人工智能訓(xùn)練集之外。他在預(yù)印本論文中寫道，從人工智能訓(xùn)練集中刪去這些論文（不足PubMed上論文總數(shù)的1%）就足以消除幾乎所有的風(fēng)險(xiǎn)。當(dāng)然，這么做也是有代價(jià)的，人工智能將不能利用這些論文以積極的方式推進(jìn)生物學(xué)。但這么做能夠防止技術(shù)的濫用。
其他保障措施還包括要求所有基因合成公司和未來的臺(tái)式DNA打印機(jī)對(duì)已知病原體和毒素的遺傳物質(zhì)進(jìn)行篩選，并要求CRO公司驗(yàn)證被要求組裝的任何遺傳物質(zhì)的安全性。
但西奈山衛(wèi)生系統(tǒng)的病毒學(xué)家Gustavo Palacios認(rèn)為沒有必要為此驚慌，啟動(dòng)一種病毒比描述的更具挑戰(zhàn)性，而認(rèn)為CRO公司會(huì)創(chuàng)造生物武器的想法也是荒謬的。
版權(quán)聲明：除特殊說明外，本站所有文章均為 字節(jié)點(diǎn)擊 原創(chuàng)內(nèi)容，采用 BY-NC-SA 知識(shí)共享協(xié)議。原文鏈接：https://byteclicks.com/50355.html 轉(zhuǎn)載時(shí)請(qǐng)以鏈接形式標(biāo)明本文地址。轉(zhuǎn)載本站內(nèi)容不得用于任何商業(yè)目的。本站轉(zhuǎn)載內(nèi)容版權(quán)歸原作者所有，文章內(nèi)容僅代表作者獨(dú)立觀點(diǎn)，不代表字節(jié)點(diǎn)擊立場(chǎng)。報(bào)道中出現(xiàn)的商標(biāo)、圖像版權(quán)及專利和其他版權(quán)所有的信息屬于其合法持有人，只供傳遞信息之用，非商務(wù)用途。如有侵權(quán)，請(qǐng)聯(lián)系 gavin@byteclicks.com。我們將協(xié)調(diào)給予處理。
關(guān)鍵詞：
