文︱周顯

我拍檔創(chuàng)立的人工智能公司0xmd.com在日前已完成了首輪融資，現(xiàn)時(shí)有3萬個(gè)用戶，本年底在內(nèi)地、美國、巴西開展業(yè)務(wù)。如無意外，明年應(yīng)開始錄得利潤。

公司成立于一年多前，剛剛是人工智能開始爆發(fā)的時(shí)刻，由于強(qiáng)手環(huán)伺，最有名的當(dāng)然是ChatGPT，當(dāng)時(shí)人們都取笑我們是傻瓜，有什么可能會(huì)戰(zhàn)勝這頭巨無霸呢？

我們的第一個(gè)信念，是在未來世界，除了ChatGPT、Grok、DeepSeek、通義千問這些無所不知的“智能大神”之外，還需要有一些專門的大型語言模型的人工智能，這正如所有的社交媒體均有“會(huì)議”的功能，但是“Zoom”這個(gè)專門用來開會(huì)的軟件依然大行其道，有著不可或缺的市場功能。

舉一個(gè)例子，我是研究中國古代歷史的：這從來是我的興趣，可是這直至近十多年，幾乎所有古書都上網(wǎng)了，方才把這研究變成可能。否則，就是手頭有上所有的古書，要想翻查資料，也不可能有這么多的時(shí)間。

這一年來，我企圖用人工智能，幫我找資料，卻赫然發(fā)現(xiàn)，幾乎每個(gè)人工智能，不論中美，都有偽造古書的“習(xí)慣”，一不小心，不做fact check，就會(huì)中伏。我的拍檔之一Candice常研究佛經(jīng)，她也說人工智能常常偽造佛經(jīng)，又或者是真有其經(jīng)，但卻沒有其文。

事實(shí)上，人工智能常講大話，不可靠，已是公開的事實(shí)了，尤其是以上的“智能大神”，更加是惡名昭彰。其實(shí)這只不過是人類講大話的延續(xù)：人工智能在“窮盡可能性”方面的確是遠(yuǎn)勝人類，但在“安全性”方面，卻有著先天的缺陷，一來是不知怎的，它有“幻覺”（hallucination），會(huì)說謊，二來是網(wǎng)上有大量不可靠的資訊，它很難避免吸收到這些虛假資訊。正是電腦時(shí)代所說的：Garbage in, garbage out。

我們研發(fā)0xmd.com，其中一項(xiàng)工作，就是維護(hù)其“安全性”，一是要“喂食”它可靠來源的資訊，二是要它承認(rèn)不足，沒有把握的答案，寧愿說不知，也不要亂吹一通。這正是專門性人工智能的其中一個(gè)重點(diǎn)。