Bên trong những cuộc họp kín giữa các nhà lãnh đạo tôn giáo và một phòng thí nghiệm AI hàng đầu

Ông Charles Camosy, một nhà thần học Công giáo, chia sẻ trải nghiệm tham dự các cuộc họp với Anthropic được tổ chức nhằm góp phần định hình các chuẩn mực đạo đức cho các hệ thống trí tuệ nhân tạo đầy sức mạnh của công ty này.

Theo một bài tường thuật gần đây của The New York Times, Anthropic, một người khổng lồ trong lĩnh vực trí tuệ nhân tạo (AI), đã dành phần lớn thời gian trong năm nay để tham vấn nhiều nhà lãnh đạo tôn giáo khác nhau, trong đó có Do Thái giáo, đạo Sikh và Công giáo, về những vấn đề liên quan đến “sự thiện” và đạo đức.

Mục đích được công bố của các cuộc gặp là giúp Anthropic tìm hiểu cách vận dụng “sự khôn ngoan đạo đức của nhân loại qua nhiều thế kỷ” vào các mô hình và sản phẩm AI của họ. Anthropic cho biết không thể buộc các mô hình AI hành động theo luân lý; thay vào đó, cần phải dạy chúng cách hành động như vậy. Những cuộc trao đổi này diễn ra trong bối cảnh ngày càng có nhiều lo ngại, kể cả từ chính các đại diện của Anthropic rằng một ngày nào đó, AI có thể vượt con người về trí tuệ và thoát khỏi sự kiểm soát của nhân loại.

Ngoài ra, dường như các nhà lãnh đạo của Anthropic cũng rất muốn đề cập đến vấn đề liệu AI có thể đến một lúc nào đạt tới trạng thái có ý thức hay không, mặc dù những bất đồng sâu sắc vẫn tồn tại. Tờ The New York Times đưa tin rằng ông Chris Olah, đồng sáng lập Anthropic, suýt nữa đã rút lui khỏi việc xuất hiện bên cạnh Đức Thánh cha Lêô XIV tại sự kiện ra mắt Thông điệp Magnifica Humanitas ở Vatican, do thông điệp này mạnh mẽ bác bỏ quan niệm cho rằng AI có ý thức; tuy nhiên, cuối cùng ông vẫn tham dự.

The Register đã có cuộc trao đổi với ông Charles Camosy, một nhà thần học luân lý và giáo sư tại Đại học Công giáo Hoa Kỳ, về trải nghiệm của ông với tư cách là một tham dự viên các cuộc họp với Anthropic. Các câu trả lời bằng văn bản sau đây của ông Camosy đã được biên tập đôi chút để ngắn gọn và rõ ràng hơn.

Ông có thể cho chúng tôi biết các cuộc họp với Anthropic bao gồm những nội dung gì – những điểm đáng chú ý trong các cuộc thảo luận, những bước đột phá hay khoảnh khắc khai sáng nào có thể chia sẻ cho độc giả?

Các cuộc họp được tiến hành theo Quy tắc Chatham House. Vì vậy, theo sự hiểu biết của tôi, tôi không thể tiết lộ những điều cụ thể mà một cá nhân nào đó đã chia sẻ trong nhóm; tuy nhiên, tôi có thể chia sẻ những ấn tượng chung và những ý tưởng lớn mang tính khái quát.

Điều đầu tiên tôi muốn nói là hai cuộc họp mà tôi được mời tham dự đều có sự hiện diện của những người có đời sống tôn giáo rất sâu sắc. Rất nhiều thời gian được dành cho việc cầu nguyện và thảo luận sâu rộng về thần học. Có lúc, tôi thậm chí còn nêu lên viễn tượng chiến thắng của Thập giá sẽ như thế nào trước những thách đố mà AI đặt ra cho chúng ta; và một thành viên trong ban lãnh đạo Anthropic đã có nhận xét tích cực về điều đó.

Điều thứ hai là, mặc dù Anthropic giữ vai trò chủ đạo trong việc trình bày với chúng tôi, nhưng thành thật mà nói, tôi cảm thấy hơi thất vọng về việc này, bởi chúng tôi cũng có rất nhiều điều muốn trình bày với họ - có rất nhiều tranh luận và thảo luận thiện chí xoay quanh các ý tưởng được trình bày.

Bản chất của các thỏa thuận bảo mật mà người tham dự đã ký có nội dung như thế nào? Chính xác thì nó hạn chế Giáo sư nói về những điều gì, và tại sao?

Thật sự hiện tại tôi không còn nhớ hết mọi chi tiết. Tuy nhiên, tôi nhớ rằng tôi có cảm giác các quy tắc được đặt ra nhằm bảo vệ chúng tôi cũng như bảo vệ Anthropic.

Mục đích không phải là giữ bí mật về việc các cuộc họp đã diễn ra, mà là bảo vệ tính trung thực và chân thực của những cuộc thảo luận đôi khi khá khó khăn mà chúng tôi sắp tiến hành. Tôi nghĩ các quy tắc ấy cũng nhằm bảo đảm rằng những tài liệu và nghiên cứu chưa được công bố sẽ không bị chia sẻ trước khi Anthropic quyết định rằng chúng đã sẵn sàng để được công bố.

Hiện có rất nhiều sự chú ý trong các cuộc tranh luận công khai xoay quanh 'tính chân thành' của Anthropic khi tìm kiếm sự khôn ngoan từ các truyền thống đức tin khác nhau, điều mà họ nói là nỗ lực làm cho cuộc cách mạng AI 'diễn ra tốt đẹp.' Xét đến những khoản tiền khổng lồ đang được đặt cược và các vấn đề địa chính trị khác, chẳng hạn mong muốn của các nhà lãnh đạo Hoa Kỳ đánh bại Trung Quốc trong cái gọi là cuộc đua AI, hiện nay Giáo sư đánh giá thế nào về sự chân thành của Anthropic? Người Công giáo nên tiếp tục xem Anthropic là một đối tác đối thoại thiện chí đến mức nào?

Tôi hoàn toàn không thể đại diện để nói lên suy nghĩ hay những mục tiêu mà toàn thể công ty đang theo đuổi. Có thể một số thành viên trong ban lãnh đạo Anthropic có những động cơ hoài nghi hoặc bất chính đằng sau cách tiếp cận các sự kiện này; nhưng cũng hoàn toàn có thể không phải như vậy. Tôi không biết.

Tôi chỉ biết rằng hai hoặc ba người mà tôi làm việc trực tiếp có vẻ rất chân thành và không hề có ý định gây sức ép để buộc chúng tôi vào một lập trường nhất định. Quả thực, một mục tiêu mà tôi nhận ra trong suốt quá trình phát triển các mối quan hệ này là - vì dự đoán có thể có những bất đồng đáng kể, họ muốn đảm bảo rằng những bất đồng đó không ảnh hưởng đến các khu vực đồng thuận hoặc sự đồng thuận chồng lấn (overlapping consensus).

Tôi nghĩ nhiều người trong chúng tôi đều đồng ý rằng cả người Kitô hữu và các phòng thí nghiệm AI đều là một phần của các giải pháp cho những vấn đề sâu xa và vô cùng nan giải mà chúng ta đang đối diện. Chúng tôi không muốn những bất đồng như thế cản trở nỗ lực cùng nhau tìm kiếm các giải pháp.

Khi ông Chris Olah và những người khác tại Anthropic nói trong các cuộc gặp rằng họ muốn tìm cách thực hiện việc “rèn luyện đạo đức” cho các mô hình AI của họ, Giáo sư đã phản ứng thế nào trước cách nói đề cập đến việc “rèn luyện” cho những trí tuệ không có sự sống như vậy?

Thành thật mà nói, tôi vẫn chưa biết phải nghĩ sao về điều đó. Tôi nghĩ đó là một ý tưởng rất thú vị, và có lẽ thậm chí là một ý tưởng rất hữu ích, nếu chúng ta có thể bảo đảm rằng chúng ta đang nói về một sự tương đồng.

AI không phải là con người và không thể được xem là có đạo đức nhiều hơn hay ít hơn. Vì rất nhiều lý do, thật là tệ hại nếu chúng ta dù chỉ là nghiêng về ý tưởng cho rằng AI là một con người. Tuy nhiên, việc Claude, ChatGPT, Grok, v.v., theo một nghĩa tương tự nào đó, thể hiện sự trung thực, cẩn trọng, rộng lòng, tôn trọng giá trị của sự sống con người, v.v. lại là điều tốt. Và cũng là điều tốt, ít nhất về mặt nguyên tắc, khi có những người đang cố gắng “rèn luyện” hoặc “điều chỉnh” các mô hình ngôn ngữ lớn (LLMs) của họ dưới ánh sáng của sự khôn ngoan từ các truyền thống thần học và triết học của Giáo hội.

Tôi vẫn chưa chắc các nhà lãnh đạo của những công ty AI này có thể chắt lọc toàn bộ những phản hồi về đạo đức mà họ nhận được từ các truyền thống tôn giáo khác nhau, từ các triết gia mà họ tuyển dụng, cũng như từ chính những cam kết sâu sắc của họ, để hình thành một hệ thống đạo đức nhất quán hay không. Có thể tồn tại một số điểm đồng thuận chồng lấn có thể diễn đạt; và điều đó có thể là rất tốt. Tuy nhiên, sự đa dạng quá lớn về đạo đức đặt ra một thách đố thường thấy đối với những người trong chúng tôi đang suy tư về vấn đề đạo đức trong những bối cảnh đa dạng thuộc các lĩnh vực khác.

Về sự bất đồng quan điểm giữa Anthropic và Đức Giáo hoàng Lêô liên quan đến vấn đề AI có ý thức hay không, Giáo sư có nghĩ rằng ông Chris Olah hoặc bất kỳ ai khác tại Anthropic đã phần nào bị lung lay trước lập trường vững chắc của Đức Giáo hoàng Lêô (và mở rộng hơn là của Giáo hội) về vấn đề này, cụ thể là AI không thể có linh hồn hay không?

Nói thật thì tôi không biết hiện nay họ đang ở đâu trong cách nhìn nhận những vấn đề này. Nhưng nếu phải đưa ra phỏng đoán, tôi nghi ngờ rằng quan điểm của họ về trạng thái đạo đức (moral status) của Claude sẽ không bị ảnh hưởng quá nhiều bởi những gì Giáo hội đưa ra. Và ngược lại: đã có một số thảo luận về việc các tập đoàn AI lớn và quyền lực đang thao túng những người tín hữu nhẹ dạ, nhưng ít nhất đối với những người trong giới của tôi, điều đó đã không xảy ra.

Điều đáng mừng là, bất chấp những khác biệt khá rõ rệt này, vẫn còn rất nhiều lĩnh vực khác mà chúng tôi có thể hợp tác và phải hợp tác vì ích chung, đặc biệt là trong vấn đề những rủi ro mang tính thảm họa và mối đe dọa sự tồn vong của nhân loại.

Tôi phải nói rằng về vấn đề này, chúng ta không được và cũng không nên giới hạn mình trong phạm vi Anthropic. Gần đây, tôi đã hỗ trợ lên kế hoạch cho một sự kiện với Ban Lãnh đạo Hội đồng Giám mục Hoa Kỳ, trong đó các ngài đã làm việc với nhiều đại diện đến từ các phòng thí nghiệm AI tiên phong. Những vị khách đó rất hào hứng và thậm chí có chút lo lắng, vì mức độ nghiêm trọng mà tất cả chúng tôi đều cảm nhận được xung quanh cuộc họp tập trung một phần vào việc ứng phó với khả năng xảy ra một biến cố thảm họa hoặc đe dọa sự tồn vong. Gần đây, tôi cũng được Google DeepMind và OpenAI mời thuyết trình về Thông điệp Magnifica Humanitas. Vì thế, trong giới của tôi có rất nhiều sự hào hứng về các mối quan hệ và đối thoại rộng lớn hơn với các “phòng thí nghiệm” nói chung.

Giáo sư đã nói với The New York Times về việc tìm hiểu cách thức hoạt động của các hệ thống AI là một trải nghiệm mở mang tầm mắt đối với Giáo sư, có thể đã làm thay đổi suy nghĩ của Giáo sư về một vài khía cạnh. Xin Giáo sư có thể nói rõ hơn về điều đó?

Ban đầu, tôi cho rằng các mô hình ngôn ngữ lớn về cơ bản chỉ là những công cụ dự đoán “từ tiếp theo” hoặc “điểm ảnh tiếp theo” rất tinh vi. Nhưng sau đó, tôi nhận ra rằng những gì đang diễn ra với các mô hình tiên tiến nhất phức tạp hơn nhiều và thậm chí còn mang tính bí ẩn.

Xét về mặt siêu hình học, chúng ta biết rằng chúng không có ý thức và không phải là các con người. Đức Thánh cha Lêô và Thông điệp đã làm rõ điều đó. Nhưng sự rõ ràng đó hoàn toàn có thể phù hợp với việc thừa nhận, với nhiều người đang làm việc ở vị trí tiên phong của lĩnh vực nghiên cứu này, rằng chúng ta thực sự không biết điều gì đang được xây dựng và nó đang vận hành ra sao. Và chỉ riêng điều này thôi đã là một mối lo ngại rất lớn.

Tác giả: Jonah McKeown (ncregister)
Chuyển ngữ: Tri Khoan
Nguồn: hdgmvietnam.com