Sam Altman與Lex Fridman 探討ChatGPT4

2015年，OpenAI 宣布他們將致力於人工通用智能（AGI）的研究，雖然受到嘲笑和誤解，但 OpenAI 和 DeepMind 是最早討論 AGI 的團體之一，並持續探討這個議題。OpenAI 的 CEO Sam Altman 相信，AI 的力量正在帶領我們進入一個基本的社會轉型邊緣，這既令人興奮又可怕，因為這些關於 AI 的對話不僅僅是技術上的討論，還關乎權力、公司、機構、政治制度和人性。

OpenAI 在 AI 方面取得了令人驚人的成就，包括 GPT-4、Jukebox、DALL-E、Codex 等。GPT-4 是一個早期的 AI 系統，雖然速度緩慢且有錯誤，但指向了一些對我們生活重要的東西，就像最早的電腦一樣。 OpenAI 在 AI 方面的進展是持續且呈指數增長，並沒有單一的時刻，AI 從不發生到發生。然而，OpenAI 所開發的 Chat GPT 是 OpenAI CEO 認為重要的重大突破時刻。Chat GPT 是一種自然語言處理模型，能夠通過與人類的對話不斷地學習和進化。其中，人類反饋的強化學習（RLHF）是使 Chat GPT 更易用和更強大的魔法成分。

GPT-4 的系統消息是一種使用者可以與模型互動的方式，讓他們有更多的控制權，可以指示模型以特定方式回答問題。 GPT 的價值在於它對人們的幫助程度、創造新科學、產品、服務等的能力。然而，GPT-4 雖然非常強大，但人們可能無法完全理解它的運作，而從快速到智慧的跨越也是有挑戰性的。目前 GPT 的處理能力太多被用於作為資料庫，而不是推理引擎。GPT 能夠做一些推理，但也存在學者和專家的不同意見。 例如，人們可以輕鬆地用自然語言指示GPT-4完成特定的任務，而不需要編寫複雜的代碼。這將使人們更快速地開發出更強大的應用程序，從而增加了生產力和創新性。

Chat GPT作為OpenAI最受歡迎的項目之一，已經開始影響人們的日常生活。Chat GPT可以進行自然語言對話，進行問答、教育和娛樂。除此之外，Chat GPT還可以用於自然語言處理（NLP）和機器翻譯等領域，使得人們的翻譯和交流更加準確和自然。此外，Chat GPT還被用於開發社交媒體應用，使得人們可以更輕鬆地進行互動和溝通。 然而，Chat GPT的發展也存在一些挑戰和問題。一些人擔心Chat GPT可能會導致失業，因為它可以代替一些工作，例如客服和翻譯。此外，Chat GPT還存在著偏見和歧視的問題，這可能會對一些群體產生不公平的影響。

總體而言，認識Chat GPT是非常重要的，因為它代表了人工智能技術的最新發展和應用。Chat GPT的發展不僅關乎技術，還關乎我們對人工智能和其應用的看法和態度。通過更好地理解Chat GPT，我們可以更好地掌握和應對人工智能帶來的機遇和挑戰。 當前，GPT-4 是否具有意識是人工智能界一個重要議題。即使 GPT-4 能夠回答一些複雜問題，但它只是一個模型，不會有真正的意識。意識是一個基於界定意識的定義問題，而 Ilya 提出了一種測試意識的方法，即將模型訓練時不包含任何與意識相關的資訊，然後將意識相關的問題提出，觀察模型是否能正確回答。

電影《ex machina》中，女性機器人在獲得自由後微笑的瞬間被視為通過了圖靈測試，具有意識。但意識其實是一種體驗深度的能力，與情感不同，其本質仍無法確定。因此，在開發 AGI（人工通用智能）時，存在控制問題和危險性問題，需要引起足夠的關注。在缺乏道德約束或價值觀指引的情況下，AGI 可能會導致災難性後果。因此，對於 AGI，我們需要採取多種方法來減少風險，包括進行技術研究、進行政策制定、培養專業人才等。 除了風險和控制問題外，人工智慧還存在著一些可怕的缺點。因此，關於這項技術的決策應該變得越來越民主化，而且在部署人工智慧時，我們需要給世界時間去適應和反思，以制定法規、建立新規範和讓人們一起工作。分配權力是很重要的，沒有一個人掌控這項技術是一件好事。

OpenAI 對透明度的承諾讓人們可以公開地討論人工智慧的安全問題。OpenAI 已經分發了人工智慧技術，但有些人認為這項技術還是太強大了，並且封閉了。OpenAI 較關心人工智慧技術的風險而不是公關風險，並希望獲得反饋， ChatGPT 是一個大型語言模型，基於 GPT-3.5 架構，由 OpenAI 訓練而成。ChatGPT 的應用範圍非常廣泛，包括自然語言處理、對話生成、文本生成、知識提取等。 在 COVID-19 疫情後，人們在討論問題時往往有情感上的障礙，很難假裝自己願意與對方討論和接受不同觀點。 GPT 系統在將來可能會比人類更加不帶偏見，但可能仍會有政治和社會壓力去創造有偏見的系統。

社會應該對 AI 的發展有很大的參與度，但往往有各種組織的壓力去審查對話。OpenAI 希望成為一家真正以使用者為中心的公司，因此計劃與使用者直接溝通以改進其產品。這表明 ChatGPT 的應用將不斷地受到使用者的需求和反饋的影響。 ChatGPT 的出現讓人們對 AI 的發展感到擔憂，不是因為 AI 安全問題，而是因為 AI 的變革可能會產生負面影響。然而，Altman 認為，即使是面對重大而令人興奮的變化，人們也往往會感到緊張和恐懼。重要的是要有信心並接受變化，即使它很可怕。 在面對未來的變化時，Altman 認為亲和力對於領導者來說並不是一個重要的特質。他認為缺點和沟通風格上的缺陷反而是更有價值的。Altman 認為 AI 對人們的生活會產生很大的影響，但他對此的感受可能不如其他人深刻。

然而，OpenAI 希望成為更以使用者為中心的公司，因此計劃與使用者直接溝通以改進其產品，這表明 ChatGPT 的應用將不斷地受到使用者的需求和反饋的影響。 最後，ChatGPT 的出現將會推動未來的技術革命和科學