Tôn giáo đắng cay: Cuộc chiến thánh vòng quanh nguyên tắc mở rộng của trí tuệ nhân tạo

Cộng đồng trí tuệ nhân tạo đã rơi vào tranh luận về tương lai của nó và liệu có đủ quy mô để tạo ra giáo điều của Chúa hay không.

Viết bởi: Mario Gabriele

Biên dịch: Block unicorn

Cuộc chiến thánh về Trí tuệ nhân tạo

Tôi thà sống cả đời mình như không có Chúa, đến khi chết mới phát hiện Chúa không tồn tại, cũng không muốn sống như có Chúa, đến khi chết mới phát hiện Chúa tồn tại. - Blaise Pascal

Tôn giáo là một điều thú vị. Có thể vì nó hoàn toàn không thể chứng minh trong bất kỳ hướng nào, hoặc có thể như câu yêu thích của tôi: “Bạn không thể sử dụng sự thật để chống lại cảm xúc.”

Đặc điểm của niềm tin tôn giáo là trong quá trình tăng lên, chúng phát triển với tốc độ không thể tin được, đến mức gần như không thể nghi ngờ sự tồn tại của Chúa. Làm sao bạn có thể nghi ngờ sự tồn tại của một thực thể thần thánh khi mọi người xung quanh bạn tin vào nó ngày càng nhiều? Khi thế giới xoay quanh một tôn giáo sắp xếp lại chính mình, còn đâu là chỗ đứng của những người bất đồng tín ngưỡng? Khi đền đài và nhà thờ lớn, pháp luật và quy tắc được sắp xếp theo một Tin Mừng mới, không thể lay chuyển, còn đâu là không gian phản đối?

Khi đức tin của Abraham xuất hiện lần đầu và lan truyền đến các lục địa, hoặc khi Phật giáo từ Ấn Độ lan truyền đến toàn châu Á, động lực vĩ đại của đức tin đã tạo ra một vòng lặp tự tăng cường. Khi có nhiều người cúng tông hơn và xây dựng các hệ thống thần học và nghi lễ phức tạp xung quanh các đức tin này, việc đặt câu hỏi về những tiền đề cơ bản này trở nên khó khăn hơn và hơn. Trong một đại dương tin tưởng, trở thành một kẻ dị đồng và không dễ dàng. Những nhà thờ hùng vĩ, các kinh thánh tôn giáo phức tạp cùng với các tu viện thịnh vượng, đều là bằng chứng vật lý cho sự hiện diện thần thánh.

Nhưng lịch sử tôn giáo cũng cho chúng ta biết rằng cấu trúc như vậy là dễ sụp đổ như thế nào. Khi Kitô giáo lan rộng đến bán đảo Scandinavia, đạo Bắc Âu cổ xưa đã sụp đổ chỉ sau vài thế hệ. Hệ thống tôn giáo cổ xưa của Ai Cập đã tồn tại hàng nghìn năm, cuối cùng biến mất khi đức tin mới, lâu dài hơn, nổi lên và khi quyền lực lớn hơn xuất hiện. Ngay cả trong cùng một tôn giáo, chúng ta cũng thấy sự chia rẽ đầy kịch tính - cải cách tôn giáo đã làm nứt rạn Kitô giáo phương Tây, và sự chia rẽ lớn đã dẫn đến sự phân ly của Giáo hội phương Đông và phương Tây. Những sự chia rẽ này thường bắt đầu từ những sự khác biệt về giáo lý dường như không đáng kể, sau đó dần dần phát triển thành các hệ thống tín ngưỡng hoàn toàn khác nhau.

Thánh Điển

Đấng Tối Cao là phép ẩn dụ vượt xa mọi cấp độ trí tuệ. Đơn giản như vậy. - Joseph Campbell

Đơn giản, tin vào Chúa là tôn giáo. Có lẽ tạo ra Chúa cũng không khác biệt gì.

Từ khi ra đời, các nhà nghiên cứu trí tuệ nhân tạo lạc quan đã tưởng tượng công việc của họ như một thuyết sáng tạo của Chúa - sáng tạo của Chúa. Trong những năm gần đây, sự phát triển bùng nổ của các mô hình ngôn ngữ lớn (LLM) đã càng củng cố niềm tin của những người theo đạo, cho rằng chúng ta đang đi trên một con đường thần thánh.

Nó cũng xác nhận một bài đăng trên blog được viết vào năm 2019. Mặc dù những người ngoài lĩnh vực trí tuệ nhân tạo chỉ mới biết về nó gần đây, nhưng “Những bài học đau đớn” của nhà khoa học máy tính Canada Richard Sutton đã trở thành một văn bản ngày càng quan trọng trong cộng đồng, từ kiến thức ẩn dần trở thành một cơ sở tôn giáo mới, toàn diện và đa dạng.

Trong 1.113 từ (mỗi tôn giáo đều cần một số thánh), Sutton tóm tắt một quan sát về công nghệ: “Bài học lớn nhất có thể học từ 70 năm nghiên cứu trí tuệ nhân tạo là phương pháp tính toán tổng quát cuối cùng là phương pháp hiệu quả nhất và mang lại lợi thế khổng lồ.” Tiến bộ của mô hình trí tuệ nhân tạo được hưởng lợi từ sự tăng trưởng mũ của tài nguyên tính toán, trên một cơn sóng khổng lồ của định luật Moore. Trong khi đó, Sutton chỉ ra rằng nhiều công việc trong nghiên cứu trí tuệ nhân tạo tập trung vào tối ưu hóa hiệu suất bằng cách sử dụng các kỹ thuật đặc biệt - tăng cường kiến thức con người hoặc công cụ hẹp hơn. Mặc dù những tối ưu này có thể hữu ích trong thời gian ngắn, nhưng theo Sutton, chúng cuối cùng chỉ là lãng phí thời gian và tài nguyên, giống như điều chỉnh các vây trên một tấm ván lướt sóng hoặc thử nghiệm sáp mới khi một cơn sóng khổng lồ đang đến.

Đây là nền tảng của điều mà chúng ta gọi là “tôn giáo cay đắng”. Nó chỉ có một giới luật, thường được gọi trong cộng đồng là “luật mở rộng”: tăng theo cấp số nhân tính toán thúc đẩy hiệu suất; Những người còn lại là ngu ngốc.

Tôn giáo đắng cay đã mở rộng từ mô hình ngôn ngữ lớn (LLMs) đến mô hình thế giới và hiện đang nhanh chóng lan rộng thông qua các đền thờ chưa được chuyển đổi như sinh học, hóa học và trí tuệ cơ thể (robot và xe tự lái).

Tuy nhiên, khi lý thuyết của Sutton được lan truyền, định nghĩa cũng bắt đầu thay đổi. Điều này là dấu hiệu của tất cả các tôn giáo sống động và hoạt bát - tranh luận, mở rộng, chú thích. “Luật mở rộng” không còn chỉ đơn giản là mở rộng tính toán (Noah’s Ark không chỉ là một con thuyền), mà nó hiện tại đề cập đến các phương pháp nhằm nâng cao hiệu suất biến áp và tính toán, kèm theo một số mẹo nhỏ.

Hiện tại, Classic đã bao gồm việc tối ưu hóa mọi phần của ngăn xếp trí tuệ nhân tạo, từ các kỹ thuật áp dụng cho chính mô hình cốt lõi (như kết hợp mô hình, Expert Mix (MoE) và trích xuất tri thức) cho đến việc tạo ra dữ liệu tổng hợp để nuôi những vị thần luôn đói bụng này, trong quá trình này còn tiến hành rất nhiều thử nghiệm.

Các giáo phái đang chiến đấu

Gần đây, một vấn đề nổi lên trong cộng đồng trí tuệ nhân tạo, mang theo một không khí chiến tranh thánh, đó là liệu “tôn giáo đắng cay” còn đúng hay không.

Tuần này, Đại học Harvard, Đại học Stanford và Viện Công nghệ Massachusetts đã công bố một bài báo mới mang tên ‘Nguyên tắc Mở rộng Độ chính xác’, gây ra cuộc xung đột này. Bài báo này thảo luận về sự kết thúc của lợi ích hiệu suất kỹ thuật số, một loạt các công nghệ cải tiến hiệu suất mô hình trí tuệ nhân tạo và có lợi cho hệ sinh thái mã nguồn mở. Tim Dettmers, nhà nghiên cứu khoa học tại Viện Nghiên cứu Trí tuệ nhân tạo Allen, đã tóm tắt tầm quan trọng của nó trong bài đăng dưới đây, gọi nó là ‘bài báo quan trọng nhất trong một thời gian dài’. Nó đại diện cho sự tiếp tục của cuộc trò chuyện nóng lên trong vài tuần qua và tiết lộ một xu hướng đáng chú ý: sự củng cố ngày càng mạnh của hai giáo điều.

Giám đốc điều hành OpenAI Sam Altman và Giám đốc điều hành Anthropic Dario Amodei thuộc cùng một giáo phái. Cả hai đều tự tin tuyên bố rằng chúng ta sẽ đạt được trí tuệ tổng hợp nhân tạo (AGI) trong 2-3 năm tới hoặc lâu hơn. Cả Altman và Amodei đều được cho là hai nhân vật dựa nhiều nhất vào sự thiêng liêng của “tôn giáo cay đắng”. Tất cả các ưu đãi của họ có xu hướng hứa hẹn quá mức, tạo ra sự cường điệu lớn nhất để tích lũy vốn trong một trò chơi bị chi phối gần như hoàn toàn bởi quy mô kinh tế. Nếu Quy luật mở rộng không phải là “Alpha so với Omega”, ban đầu và cuối cùng, bắt đầu và kết thúc, thì bạn cần 22 tỷ đô la để làm gì?

Nguyên tắc đặc biệt mà Ilya Sutskever, cựu giám đốc khoa học của OpenAI, đề cập đến được xem là khác biệt. Theo ông và các nhà nghiên cứu khác (bao gồm nhiều nhà nghiên cứu từ bên trong OpenAI theo thông tin rò rỉ gần đây), nhóm này cho rằng sự mở rộng đang tiến gần tới giới hạn. Nhóm này cho rằng để tiến bộ và đưa trí tuệ nhân tạo tổng hợp vào thực tế, cần có khoa học và nghiên cứu mới.

Sutskever hợp lý chỉ ra rằng, ý tưởng mở rộng liên tục của Altman là không khả thi về mặt kinh tế. Như nhà nghiên cứu trí tuệ nhân tạo Noam Brown đã hỏi: “Cuối cùng, chúng ta thực sự cần huấn luyện mô hình với hàng tỷ hoặc hàng trăm tỷ đô la không?” Điều này chưa tính đến chi phí tính toán cho việc mở rộng từ quá trình huấn luyện sang quá trình suy luận, yêu cầu hàng tỷ đô la bổ sung.

Nhưng người đạo đức thực sự rất quen với các lập luận của đối thủ. Các nhà truyền giáo ở cửa nhà bạn có thể dễ dàng đối phó với khó khăn ba tư tưởng của bạn. Đối với Brown và Sutskever, nhóm Sutskever đã chỉ ra khả năng mở rộng ‘tính toán khi kiểm tra’. Khác với trường hợp trước đây, ‘tính toán khi kiểm tra’ không phải là cải tiến huấn luyện dựa trên tính toán lớn hơn, mà là sử dụng nhiều tài nguyên hơn để thực thi. Khi mô hình trí tuệ nhân tạo cần trả lời câu hỏi của bạn hoặc tạo ra một đoạn mã hoặc văn bản, nó có thể cung cấp thêm thời gian và tính toán. Điều này tương đương với chuyển sự chú ý của bạn từ việc ôn tập toán học sang thuyết phục giáo viên cho bạn một giờ thêm và cho phép bạn mang máy tính. Đối với nhiều người trong hệ sinh thái này, đây là biên giới mới của ‘tôn giáo đắng cay’, vì nhóm đang chuyển từ việc huấn luyện trước chuẩn sang phương pháp huấn luyện sau / suy luận.

Chỉ ra nhược điểm của các hệ thống tín ngưỡng khác, chỉ trích các giáo lý khác mà không tiết lộ quan điểm của chính mình, điều này rất dễ dàng. Vậy tín ngưỡng của riêng tôi là gì? Đầu tiên, tôi tin rằng dòng tiền hiện tại sẽ mang lại lợi nhuận đầu tư rất cao theo thời gian. Khi mọi người học cách vượt qua hạn chế và tận dụng API hiện có, chúng ta sẽ thấy sự xuất hiện và thành công của trải nghiệm sản phẩm đích thực sáng tạo. Chúng ta sẽ vượt xa giai đoạn hóa thực của sản phẩm trí tuệ nhân tạo và giai đoạn tăng thêm. Chúng ta không nên coi nó là “trí tuệ nhân tạo tổng quát” (AGI), vì định nghĩa đó có khuyết điểm trong cấu trúc, mà nên coi nó là “trí tuệ tối thiểu có thể” có thể tùy chỉnh theo từng sản phẩm và tình huống sử dụng khác nhau.

Về việc thực hiện Trí tuệ Nhân tạo Siêu cấp (ASI), cần có nhiều cấu trúc hơn. Định nghĩa và phân chia rõ ràng hơn sẽ giúp chúng ta thảo luận hiệu quả hơn về sự cân nhắc giữa giá trị kinh tế và chi phí kinh tế mà từng cái có thể mang lại. Ví dụ, AGI có thể mang lại giá trị kinh tế cho một số người dùng (chỉ là một hệ thống tín ngưỡng cục bộ), trong khi ASI có thể hiển thị hiệu ứng kết hợp không thể ngăn cản và thay đổi thế giới, hệ thống tín ngưỡng và cấu trúc xã hội của chúng ta. Tôi không nghĩ rằng chỉ cần mở rộng biến áp là có thể thực hiện ASI; nhưng đáng tiếc, như một số người có thể nói, đây chỉ là niềm tin vô thần của tôi.

Sự mất lòng tin

Cộng đồng trí tuệ nhân tạo không thể giải quyết cuộc chiến này trong thời gian ngắn; không có căn cứ thực tế nào có thể được đưa ra trong cuộc tranh cãi cảm xúc này. Thay vào đó, chúng ta nên chuyển sự chú ý vào việc nắm bắt ý nghĩa của sự nghi ngờ về trí tuệ nhân tạo mở rộng quy luật. Mất niềm tin có thể gây ra một chuỗi phản ứng, vượt ra ngoài các mô hình ngôn ngữ lớn (LLMs), ảnh hưởng đến tất cả các ngành và thị trường.

Điều quan trọng cần lưu ý là trong hầu hết các lĩnh vực của AI / ML, chúng tôi chưa khám phá kỹ lưỡng quy luật mở rộng; Sẽ có nhiều phép màu hơn nữa đến. Tuy nhiên, nếu sự hoài nghi len lỏi, các nhà đầu tư và nhà xây dựng sẽ khó duy trì mức độ tin cậy cao như nhau vào trạng thái hiệu suất cuối cùng trong các danh mục “đường cong sớm” như công nghệ sinh học và robot. Nói cách khác, nếu chúng ta thấy các mô hình ngôn ngữ lớn bắt đầu chậm lại và đi chệch khỏi con đường đã chọn, hệ thống niềm tin của nhiều nhà sáng lập và nhà đầu tư trong các lĩnh vực lân cận sẽ sụp đổ.

Câu hỏi về sự công bằng là một vấn đề khác.

Một quan điểm cho rằng, “Trí tuệ nhân tạo tổng quát” tự nhiên cần quy mô lớn hơn, do đó, “chất lượng” của mô hình chuyên ngành nên được thể hiện ở quy mô nhỏ hơn, từ đó làm cho chúng không dễ gặp phải chướng ngại trước khi cung cấp giá trị thực tế. Nếu một mô hình trong một lĩnh vực cụ thể chỉ thu thập một phần dữ liệu, và chỉ cần một phần tài nguyên tính toán để đạt được tính khả thi, liệu rằng nó không nên có đủ không gian cải thiện không? Điều này có vẻ hợp lý từ khía cạnh trực giác, nhưng chúng ta thường xuyên phát hiện rằng, điểm chính không nằm ở đây: bao gồm dữ liệu liên quan hoặc dường như không liên quan, thường có thể cải thiện hiệu suất của mô hình dường như không liên quan. Ví dụ, việc bao gồm dữ liệu lập trình có vẻ giúp nâng cao khả năng suy luận rộng hơn.

Trong tầm nhìn dài hạn, cuộc tranh cãi về mô hình chuyên gia có thể sẽ không quan trọng. Mục tiêu cuối cùng của bất kỳ ai xây dựng ASI (Trí tuệ nhân tạo siêu việt) có thể sẽ là một thực thể có khả năng tự nhân bản, tự cải tiến, và có khả năng sáng tạo không giới hạn trong mọi lĩnh vực. Holden Karnofsky, cựu thành viên Hội đồng Quản trị OpenAI và người sáng lập Open Philanthropy, gọi sản phẩm sáng tạo này là “PASTA” (Quá trình tiến bộ khoa học và công nghệ tự động hóa). Kế hoạch lợi nhuận ban đầu của Sam Altman dường như phụ thuộc vào nguyên tắc tương tự: “Xây dựng AGI, sau đó hỏi nó làm thế nào để thu lại lợi nhuận.” Đây là trí tuệ nhân tạo của thời kỳ cuối cùng, là số phận cuối cùng.

Sự thành công của các phòng thí nghiệm AI lớn như OpenAI và Anthropic đã kích thích thị trường vốn hỗ trợ các phòng thí nghiệm tương tự như ‘OpenAI trong lĩnh vực X’, với mục tiêu dài hạn của các phòng thí nghiệm này là xây dựng ‘AGI’ xung quanh một ngành công nghiệp hoặc lĩnh vực cụ thể. Sự suy diễn phân cấp này sẽ dẫn đến một sự thay đổi mô hình, xa rời khái niệm mô phỏng OpenAI và chuyển sang các công ty tập trung vào sản phẩm - điều mà tôi đề xuất tại Hội nghị năm 2023 của Compound.

Khác với mô hình cuối cùng thế giới, những công ty này phải thể hiện một loạt các tiến bộ. Chúng sẽ là các công ty được xây dựng dựa trên các vấn đề kỹ thuật quy mô, chứ không phải tổ chức nghiên cứu ứng dụng khoa học, mục tiêu cuối cùng là xây dựng sản phẩm.

Trong lĩnh vực khoa học, nếu bạn biết mình đang làm gì, thì bạn không nên làm điều đó. Trong lĩnh vực kỹ thuật, nếu bạn không biết mình đang làm gì, thì bạn cũng không nên làm điều đó. - Richard Hamming

Những tín đồ không có khả năng mất đi niềm tin thần thánh của họ trong tương lai ngắn hạn. Như đã đề cập trước đó, với sự gia tăng của tôn giáo, họ đã biên soạn một kịch bản cuộc sống và thờ phượng cùng một phương pháp truyền cảm hứng. Họ xây dựng các di tích vật chất và cơ sở hạ tầng, tăng cường sức mạnh và trí tuệ của họ, và cho thấy rằng họ “biết mình đang làm gì”.

Trong một cuộc phỏng vấn gần đây, Sam Altman đã nói về AGI như sau (nhấn mạnh vào chúng ta):

Đây là lần đầu tiên tôi cảm thấy rằng chúng ta thực sự biết phải làm gì. Từ bây giờ cho đến khi xây dựng một AGI vẫn cần nhiều công việc. Chúng ta biết có một số yếu tố không biết nhưng tôi nghĩ rằng chúng ta về cơ bản biết phải làm gì, điều này sẽ mất một thời gian; điều này sẽ rất khó khăn nhưng cũng rất thú vị.

Xét xử

Trong việc đặt nghi vấn về “Tôn giáo đắng cay”, người mở rộng nghi ngờ đang thanh toán một trong những cuộc thảo luận sâu sắc nhất trong vài năm qua. Mỗi người trong chúng ta đều từng suy nghĩ theo cách nào đó như vậy. Nếu chúng ta phát minh ra một vị thần, điều gì sẽ xảy ra? Vị thần đó sẽ xuất hiện nhanh như thế nào? Nếu AGI (Trí tuệ nhân tạo tổng quát) thực sự, không thể đảo ngược, nổi lên, điều gì sẽ xảy ra?

Như tất cả các chủ đề không xác định và phức tạp khác, chúng ta sẽ nhanh chóng lưu trữ phản ứng cụ thể của chúng ta trong não: một phần người cảm thấy chúng sắp trở nên không còn quan trọng, hầu hết mọi người dự đoán rằng đó sẽ là sự kết hợp của sự tàn phá và thịnh vượng, và cuối cùng một phần người dự đoán rằng con người sẽ làm điều chúng ta giỏi nhất, tiếp tục tìm kiếm vấn đề cần giải quyết và giải quyết những vấn đề mà chúng ta tạo ra, từ đó thực hiện sự giàu có tinh thần.

Mọi người có quan hệ lợi ích lớn đều hy vọng có thể dự đoán được thế giới sẽ trở nên như thế nào nếu luật mở rộng được chứng minh là đúng và AGI đến trong vài năm tới. Bạn sẽ phục vụ vị thần mới này như thế nào và vị thần mới này sẽ phục vụ bạn như thế nào?

Nhưng nếu Tin Lành đình đám đuổi đi những người lạc quan, chúng ta phải làm gì? Nếu chúng ta bắt đầu nghĩ rằng có lẽ thậm chí cả Chúa cũng sẽ suy thoái, chúng ta phải làm gì? Trong bài viết trước đó về FOMO của Robot, Định luật quy mô và Dự đoán công nghệ, tôi đã viết:

Đôi khi tôi tự hỏi, nếu Định luật Mở rộng không đúng thì điều gì sẽ xảy ra, liệu điều này có tương tự ảnh hưởng đến nhiều lĩnh vực công nghệ như mất thu nhập, tăng trưởng chậm lại và lãi suất tăng lên hay không. Đôi khi tôi cũng tự hỏi, liệu Định luật Mở rộng có hoàn toàn đúng không, liệu điều này có tương tự đường cong biến giá của nhiều lĩnh vực khác và giá trị thu được từ những người tiên phong trong những lĩnh vực đó hay không.

“Lợi ích của chủ nghĩa tư bản là, dù thế nào đi nữa, chúng ta cũng sẽ chi tiêu một khoản tiền lớn để tìm ra câu trả lời.”

Đối với người sáng lập và nhà đầu tư, câu hỏi trở thành: Điều gì sẽ xảy ra tiếp theo? Những ứng cử viên có thể trở thành những người xây dựng sản phẩm vĩ đại trong từng lĩnh vực đang dần được biết đến. Có thể sẽ còn nhiều người như vậy trong từng ngành, nhưng câu chuyện này đã bắt đầu. Cơ hội mới sẽ đến từ đâu?

Nếu mở rộng bị đình trệ, tôi dự đoán sẽ thấy một làn sóng phá sản và sáp nhập. Các công ty còn lại sẽ ngày càng chuyển trọng tâm sang kỹ thuật, và chúng ta nên dự đoán điều này thông qua theo dõi sự di chuyển của tài năng. Chúng ta đã thấy một số dấu hiệu cho thấy OpenAI đang phát triển theo hướng này, bởi vì nó ngày càng sản phẩm hóa nhiều hơn. Sự chuyển đổi này sẽ mở ra không gian cho thế hệ tiếp theo của các công ty khởi nghiệp, thông qua nghiên cứu ứng dụng và khoa học dựa trên sự đổi mới, chứ không phải kỹ thuật, để “lách qua trong cung đường cong”, vượt qua các công ty hiện tại trong việc mở ra những con đường mới.

Bài học từ tôn giáo

Quan điểm của tôi về công nghệ là, bất kỳ điều gì có vẻ rõ ràng mang lại hiệu quả hợp lý thì thường không kéo dài lâu và mọi người thường cho rằng một quan điểm là, bất kỳ doanh nghiệp nào có vẻ rõ ràng mang lại hiệu quả hợp lý cũng phát triển với tốc độ và quy mô đáng ngạc nhiên thấp hơn kỳ vọng.

Dấu hiệu sự phân chia tôn giáo thường tuân theo một mô hình có thể dự đoán, các mô hình này có thể được sử dụng như một khung để tiếp tục theo dõi sự phát triển của ‘Hòa thượng khó chịu’.

Nó thường bắt đầu từ sự xuất hiện của các giải thích cạnh tranh, dù cho lý do là về tư duy hay về vốn. Trong các giai đoạn đầu của Kitô giáo, những quan điểm khác nhau về thần học của Chúa Jesus và bản chất tam thể đã dẫn đến sự chia rẽ, tạo ra các giải thích Kinh Thánh hoàn toàn khác nhau. Ngoài sự chia rẽ về trí tuệ nhân tạo mà chúng tôi đã đề cập, còn có những vết nứt khác đang xuất hiện. Ví dụ, chúng ta thấy một số nhà nghiên cứu trí tuệ nhân tạo từ chối quan niệm chính thống cốt lõi của bộ chuyển đổi và chuyển sang các kiến trúc khác như mô hình không gian trạng thái (State Space Models), Mamba, RWKV, Liquid Models, vv. Mặc dù chúng hiện chỉ là các tín hiệu mềm, nhưng chúng cho thấy sự mầm mống của tư tưởng bất đồng và nguyện vọng tái suy nghĩ lĩnh vực này từ nguyên tắc cơ bản.

Với thời gian, những lời phán đoán không kiên nhẫn cũng dẫn đến sự không tin cậy của mọi người. Khi những tiên tri của lãnh đạo tôn giáo không thành hiện thực, hoặc sự can thiệp của thần không đến như đã hứa, nó sẽ gieo mầm nghi ngờ.

Phong trào Millerite từng tiên đoán rằng Đấng Christ sẽ trở lại vào năm 1844, nhưng khi Chúa Jesus không đến theo kế hoạch, phong trào này đã tan rã. Trong ngành công nghệ, chúng ta thường chôn vùi những dự báo thất bại và cho phép các tiên tri của chúng ta tiếp tục vẽ lên phiên bản tương lai lạc quan, dài hạn, mặc dù các ngày hết hạn đã bị trì hoãn nhiều lần (chào bạn Elon). Tuy nhiên, niềm tin vào Định luật Mở rộng cũng có thể đối mặt với sự sụp đổ tương tự nếu không được hỗ trợ bằng hiệu suất mô hình ban đầu được cải thiện liên tục.

Một tôn giáo thối nát, cồng kềnh hoặc không ổn định dễ bị bội giáo. Cuộc Cải cách Tin lành đã có thể đạt được tiến bộ không chỉ vì quan điểm thần học của Luther, mà còn vì nó đến vào thời điểm suy tàn và hỗn loạn đối với Giáo hội Công giáo. Khi có sự rạn nứt trong cơ sở chính thống, những ý tưởng “dị giáo” lâu đời đột nhiên tìm thấy mảnh đất màu mỡ.

Trong lĩnh vực trí tuệ nhân tạo, chúng ta có thể quan tâm đến các mô hình nhỏ hơn hoặc các phương pháp thay thế, chúng đạt được kết quả tương tự với ít tính toán hơn hoặc ít dữ liệu hơn, ví dụ như công việc được thực hiện bởi các phòng thí nghiệm doanh nghiệp Trung Quốc và các nhóm mở mã nguồn (như Nous Research). Những người vượt qua giới hạn trí tuệ sinh học, vượt qua những trở ngại lâu nay được coi là không thể vượt qua, cũng có thể tạo ra một câu chuyện mới.

Một cách quan sát trực tiếp và thời gian nhất để nhận thức sự thay đổi bắt đầu là theo dõi các chuyển động của các nhà nghiên cứu. Trước khi có bất kỳ sự phân chia chính thức nào, các học giả tôn giáo và nhân viên tôn giáo thường giữ quan điểm dị đoan trong riêng tư, nhưng lại trở nên vâng lời trước công chúng. Hiện tượng tương tự ngày nay có thể là một số nhà nghiên cứu trí tuệ nhân tạo, họ tuân thủ nguyên tắc mở rộng mặt ngoài, nhưng lại theo đuổi cách tiếp cận hoàn toàn khác nhau trong bóng tối, chờ đợi thời điểm thích hợp để thách thức sự đồng thuận hoặc rời khỏi phòng thí nghiệm của mình để tìm kiếm một thế giới lý thuyết rộng lớn hơn.

Vấn đề khó khăn về tôn giáo và công nghệ chính thống là rằng chúng thường chỉ đúng một phần, không như những tín đồ trung thành nghĩ rằng chúng là đúng một cách phổ biến. Giống như tôn giáo đã tích hợp sự thật cơ bản về con người vào khung hình triết học của chúng, luật mở rộng mô tả một cách rõ ràng thực tế học tập của mạng thần kinh. Vấn đề là liệu hiện thực này có hoàn toàn và không thay đổi như những niềm đam mê hiện tại ngụ ý, và liệu những tổ chức tôn giáo này (như các phòng thí nghiệm trí tuệ nhân tạo) có đủ linh hoạt và chiến lược để dẫn dắt những người cuồng tín đi cùng nhau. Đồng thời, xây dựng một chiếc máy in có thể truyền bá kiến thức (giao diện trò chuyện và API), để kiến thức của họ được truyền bá.

Kết thúc

“Tôn giáo trong mắt của nhân dân thường là thật, trong mắt của người thông thái là giả, trong mắt của những kẻ cai trị là hữu ích.” - Lucius Annaeus Seneca

Một quan điểm có thể đã lỗi thời về tổ chức tôn giáo là khi chúng đạt đến một quy mô nhất định, chúng trở nên dễ dàng chịu sự thúc đẩy của động cơ tồn tại, cố gắng tồn tại trong sự cạnh tranh giống như nhiều tổ chức do con người điều hành khác. Trong quá trình này, chúng đã bỏ qua cả động cơ của sự thật và sự vĩ đại (hai yếu tố này không xung đột với nhau).

Tôi từng viết một bài báo về thị trường vốn làm thế nào để trở thành một cái tổ thông tin do cố vấn kể chuyện đưa ra, và cơ chế khuyến khích thường khiến cho những câu chuyện này tiếp tục tồn tại. Sự đồng thuận của định luật mở rộng tạo cho người ta cảm giác không may mắn—một hệ thống tín ngưỡng sâu sắc, mà nó tinh tế toán học và rất hữu ích trong việc triển khai vốn quy mô lớn. Giống như nhiều khung cảnh tôn giáo khác, nó có thể được coi là một cơ chế điều phối có giá trị hơn là một sự thật cơ bản.