WordPress database error: [Expression #1 of ORDER BY clause is not in GROUP BY clause and contains nonaggregated column 'oldsite_dcvwp.wp_posts.post_date' which is not functionally dependent on columns in GROUP BY clause; this is incompatible with sql_mode=only_full_group_by]
SELECT YEAR(post_date) AS `year`, MONTH(post_date) AS `month`, count(ID) as posts FROM wp_posts WHERE post_type = 'post' AND post_status = 'publish' GROUP BY YEAR(post_date), MONTH(post_date) ORDER BY post_date DESC

 
|

Spiegel phỏng vấn nhà công nghệ tiên phong David Gelernter: Tình yêu ngoài tầm của Watson

SPIEGEL 21/02/2011

Siêu máy tính "Watson" của IBM đã đánh bại hai nhà vô địch tại các cuộc thi đố vui Jeopardy. Ảnh: Spiegel

Cuộc chiến thắng của Watson trong trò chơi Jeopardy nói với chúng ta điều gì? Không có gì nhiều, David Gelernter, nhà khoa học máy tính tiên phong và giáo sư đại học Yale nói. Spiegel trò chuyện với Gelernter về viễn cảnh của việc đạt được ý thức nhân tạo và niềm tin rằng có thể bảo toàn đời sống vĩnh cửu trong một ổ cứng.

David-Gelernter - Giáo sư đaị học Yale. Ảnh: LIFE

SPIEGEL: Thưa tiến sĩ Gelernter nhà báo Mỹ Ambrose Bierce đã mô tả cái từ chúng ta đang tìm là “một chứng điên nhất thời có thể được chữa trị bằng hôn nhân.” Ông có biết điều ấy nghĩa là gì không?

Gelernter: Tôi không biết.

SPIEGEL: Đó là tình yêu. Nó là một câu hỏi từ show truyền hình Jeopardy, và siêu máy tính IBM  Watson không khó khăn tìm được đáp án này. Vậy điều ấy có nghĩa là Watson biết tình yêu là gì không?

Gelernter: Anh ta không có những ý tưởng mơ hồ. Lĩnh vực trí tuệ nhân tạo thậm chí chưa bắt đầu đề cập đến vấn đề những xúc cảm được biểu thị trong nhận thức ra sao, cái gì làm nên một tín ngưỡng và vân vân. Vấn đề là, tôi không chỉ suy nghĩ bằng trí óc. Tôi nghĩ bằng cơ thể tôi cùng với trí óc tôi. Không có những cái như tình yêu nếu không có nguồn  vào, đầu ra, phản xạ và đáp ứng của cơ thể. Như vậy tình yêu vượt ra ngoài Watson.

SPIEGEL: Vậy tại sao Watson vẫn chơi tốt ở Jeopardy?

Gelernter: Bởi vì việc chơi Jeopardy không cần đến cơ thể. Anh không cần hàm ý gì hay tin vào một điều gì khi anh nói. Trò chơi này đủ hời hợt để một thực thể không có cảm xúc, không cảm giác và không bản ngã có thể thắng được.

SPIEGEL: Tuy nhiên, các đấu thủ của Watson, các kiện tướng của mọi thời Ken Jennings và Brad Rutter nói trong cuộc phỏng vấn rằng họ có cảm giác họ đang đấu với một con người. Làm sao chúng ta có thể đi đến chỗ coi Watson ngang tầm với chúng ta?

Gelernter: Tôi thậm chí coi con vẹt mà tôi yêu ngang tầm với tôi (Cười và chỉ vào con vẹt.) Nhưng nói nghiêm chỉnh, tôi thà chuyện gẫu với Watson còn hơn với một vài người trong khoa tôi ở Yale. Mọi đứa trẻ có con gấu nhồi bông ngay lập tức nhân cách hóa con gấu nhồi bông. Chúng ta muốn thấy hình ảnh của chúng ta, sự phản chiếu của chúng ta. Nhân cách hóa là một sức đẩy mạnh mẽ của con người. Bởi vậy chúng ta không thấy vướng víu gì khi gọi Watson là “anh ta” Đó là một đáp ứng bình thường của con người.

SPIEGEL: Watson đã đánh bại Jennings và Rutter trong cuộc thi gần đây dễ dàng một cách đáng kinh ngạc. Nếu không phải là giống như con người, liệu Watson có thể nào ít nhất nói với chúng ta điều gì đó về trí óc con người?

Gelernter: Watson không được chế tạo ra để nghiên cứu về trí óc con người. Và người của IBM không tuyên bố rằng họ đã giải quyết được mọi vấn đề về nhận thức. Wastson được chế tạo ra để thắng trò chơi Jeopardy. Có thế thôi. Để thực hiện mục đích đó, nó đang tiến đến chiến lược lập trình tương đương. Chiến lược này nói dứt khoát: quên bộ não đi. Vấn đề là chúng ta có thể khai thác năng lượng thô của máy tính theo cách sao cho chúng ta có thể tạo ra một cái gì đó có khả năng tranh đua với một con người không? Kết quả là một vật thể công nghệ phi thường mà – không giống máy tính chơi cờ IBM Deep Blue – có những hàm ý chủ yếu về trí tuệ nhân tạo ứng dụng.

Máy tính không biết nỗi đau là gì.

SPIEGEL: Nhưng ông có thể đi đến chỗ gọi một chiếc máy như thế là “thông minh” không?

Gelernter: Vấn đề là bạn sẵn lòng nông cạn đến mức nào với định nghĩa “trí thông minh.” Khi chúng ta nghĩ về nó một cách nghiêm túc, trí thông minh hàm ý một bản ngã có tính thông minh, một thực thể có thể cảm thấy những ý nghĩ của nó, nó ý thức được sự thật là nó đang suy nghĩ và nó biết rằng nó đang biểu lộ trí thông minh. Trong thiết kế Watson không có cái gì như thế.

SPIEGEL: Nhưng chúng ta hãy giả định rằng chúng ta bắt đầu nạp thơ vào Watson thay vì những cuốn từ điển bách khoa. Trong thời gian vài năm thậm chí nó có thể nói về cảm xúc. Liệu đó có phải là một bước tiến trên con đường ít ra cũng bộc lộ hành vi giống-con-người không?

Gelernter: Vâng. Tuy nhiên, vực thẳm giữa hành vi giống-con-người và hành vi con người là vô cùng lớn. Nạp thơ vào Watson thay vì từ điển bách khoa sẽ không ích gì. Nạp Keat vào anh ta, và anh ta sẽ đọc “Trái tim tôi nhức nhối, và một nỗi tê tái đang ngủ mơ màng làm đau các giác quan tôi.” Cái đó được cho là có nghĩa quái quỉ gì? Khi một nhà thơ viết “trái tim tôi nhức nhối”, đó là một hình ảnh, nhưng nó bắt nguồn từ một cảm giác thể chất có thực. Bạn cảm thấy một cái gì đó ở giữa lồng ngực bạn. Hay lấy “một nỗi tê tái đang ngủ mơ màng làm đau các giác quan tôi.” Watson không thể biết ngủ mơ màng là cái gì bởi vì anh ta không bao giờ buồn ngủ. Anh ta không biết đau là cái gì. Anh ta không có chỗ nào bấu víu vào thơ cả. Tuy nhiên, anh ta có thể thắng tại Jeopardy nếu phạm vi câu hỏi là các nhà thơ Lãng mạn Anh. Có khi anh ta còn làm tốt hơn nhiều so với phần lớn những đấu thủ là người, bằng cách không chỉ nói Keat đã viết câu thơ này mà còn giải thích những tham khảo. Có rất nhiều dữ liệu liên quan đến bất kỳ loại học vấn nào hoặc lời khẳng định nào, mà một máy có thể xử lý rất tốt. Nhưng nó là đồ giả mạo.

SPIEGEL: Trong bộ não người có cái gì đặc biệt mà chiếc máy đó không thể sao chép?

Gelernter: Bộ não khác hoàn toàn với một chiếc máy. Vật lý và hóa học là cơ sở cho những hoạt động của nó. Bộ não chuyển những tín hiệu từ nơ ron này đến nơ ron khác bằng cách sử dụng một số dẫn truyền thần kinh khác nhau. Nó được làm từ các tế bào có những đặc tính nhất định, được xây dựng từ những protein nhất định. Nó là một thứ cực kỳ phức tạp của sinh học. Máy tính thì lại khác, nó chỉ là chiếc máy điện tử làm bằng các bán dẫn và những thứ lặt vặt khác. Tôi không thể sao chép bộ não vào một con chip cũng như tôi không thể sao chép nước cam vào một con chip. Đơn giản vì nước cam không cùng loại với một con chip.

SPIEGEL: Ông có nghiêm túc không khi tuyên bố rằng một cái máy không thật sự có khả năng suy nghĩ đến khi nào nó có thể mơ mộng và ảo giác?

Gelernter: Hoàn toàn nghiêm túc. Chúng ta trải qua sự dao động giữa các trạng thái tinh thần khác nhau nhiều lần trong một ngày, và bạn không thể hiểu được trí tuệ nếu không hiểu cái phổ này. Chúng ta có nhận thức rộng, năng lượng cao, mức độ tập trung cao, chúng liên hệ với những khả năng phân tích. Và ở đầu kia của phổ, chúng ta mệt mỏi, những ý nghĩ của chúng ta trôi dạt. Trong trạng thái đó, những ý nghĩ của chúng ta được sắp xếp một cách khác. Chúng ta bắt đầu liên tưởng tự do. Lấy ví dụ Rilke: Bất thính lình vụt đến với ông [cái ý tưởng] đường bay của một con chim én trên bầu trời chạng vạng giống như một vết rạn trong chiếc ấm pha trà. Nó là một hình ảnh rất lạ nhưng là một hình ảnh gây ấn tượng mạnh. Chắc chắn không có ai trước đó đã từng nói như vậy. Loại tương tự mới và hình ảnh mới này gợi sáng tạo, nhưng cũng làm nên những thấu hiểu khoa học. Ở đây cảm xúc liên quan rất nhiều. Tại sao bạn kết hợp một con chim đang bay với một đồ sứ có vết rạn? Bởi vì, ít nhất trong tâm trí Rilke, chúng gắn với một cảm xúc tương tự.

SPIEGEL: Nhưng chúng ta chắc chắn có thể suy nghĩ mà không cần phải thi vị như vậy.

Gelernter: Đúng, Ở đầu trên của phổ, khi những ý nghĩ của tôi được sắp xếp bởi các quy tắc logic quy nạp, các tương tự không đóng vai trò gì. Tôi có những giả thuyết, và tôi nỗ lực theo cách của tôi để đi đến những kết luận. Loại thông minh đó không cần những cảm xúc, và nó không cần một cơ thể. Nhưng nó cũng hầu như không quan trọng đối với con người. Chúng ta suy nghĩ theo cách phân tích, thuần logic, chỉ vào khoảng zêrô phần trăm thời gian của chúng ta. Tuy nhiên, khi tôi đang suy nghĩ một cách sáng tạo, khi tôi đang hư cấu những tương tự mới, tôi không thể làm điều đó mà không có năng lực xúc cảm. Cơ thể có xu hướng vào cuộc, nó tạo ra năng lượng thúc đẩy quá trình đó bằng những cảm xúc sinh sôi.

SPIEGEL: Nhưng ngay cả Watson chẳng bao lâu nữa cũng có thể đến được những tương tự thú vị. Chỉ cần đưa anh ta đọc những quyển sách thích hợp.

Gelernter: Có thể chế tạo một chiếc máy có khả năng làm cái gì đó giống như là sáng tạo, thậm chí một chiếc máy có thể có ảo giác. Nhưng nó không hề giống chúng ta. Nó sẽ luôn luôn là đồ giả, đồ mã. Như vậy, hoàn toàn có khả năng chiếc “Watson 2050” sẽ thắng trong một số cuộc thi thơ. Nó có thể viết một bài xon nê tuyệt diệu mà tôi thấy đẹp và xúc động, và trở thành bài thơ nổi tiếng thế giới. Nhưng điều đó có nghĩa là Watson có một trí tuệ, một cảm giác về bản ngã không? Không, tất nhiên không. Chẳng có ai thông thạo chuyện này.

SPIEGEL: Ông có chắc không?

Gelernter: Không có gì bên trong.

SPIEGEL: Vậy làm sao ông biết được, rằng có một ai đó thông thạo mọi chuyện bên trong một người khác?

Gelernter: Tôi biết tôi là cái gì. Tôi là một con người. Nếu anh cũng là một con người, tôi tin là anh thông minh. Và không phải vì anh đỗ một kỳ thi, không phải vì anh cho tôi thấy anh có thể làm các phép tính và dịch tiếng Latin. Anh có thể ngủ say, một ai đó có thể hỏi, “anh ấy có thông minh không?” Và tôi sẽ nói “Có, tất nhiên. Anh ấy là một con người.” Trí thông minh duy nhất mà một người từng trực tiếp cảm nhận là trí thông minh của người ấy. Không có một trắc nghiệm khách quan nào cho trí thông minh trong những người khác. Hành vi có thể quan sát thấy không nói với anh trong đó có gì. Cách duy nhất chúng ta có thể tự tin mà gán cho trí thông minh là bằng cách nhìn một tạo vật giống như chúng ta.

“Các nhà khoa học sẽ không bao giờ tái tạo được một trí tuệ con người.”

SPIEGEL: Ở Lausanne, Thụy sĩ có một phòng thí nghiệm trong đó một nhóm các nhà khoa học đang cố gắng tạo ra một bộ não sinh học, tất cả mọi chi tiết, mỗi lần một nơ ron, trong một siêu máy tính. Hy vọng tạo ra một bộ não người hoàn chính trong vòng một thập niên. Liệu cái đó có phải là một “tạo vật giống chúng ta” không?

Gelernter: Họ có thể tạo ra một bộ não giả vô cùng chính xác. Họ có thể tiên đoán được hành vi của bộ não ấy đến mức truyền các tín hiệu. Nhưng họ sẽ không tạo ra một trí tuệ khá hơn một cơn cuồng phong giả tạo ra một cơ cuồng phong.

SPIEGEL: Các nhà khoa học khác còn lạc quan hơn nhiều. Bất chấp mọi trở ngại, họ nói, số lượng bán dẫn trong một con chip tăng theo hàm số mũ sẽ cho chúng ta những khả năng  thật sự vô tận. Nếu chúng ta kết nối những số lượng khổng lồ các con chip máy tính một cách thích hợp và giao cho nó một nhiệm vụ thích hợp, thì tại một điểm nào đấy ý thức sẽ hiện ra.

Gelernter: Không thể tạo ra các trạng thái tinh thần bằng cách viết phần mềm – cho dù nó đạt đến độ tinh vi nào đi nữa. Nếu một máy tính đơn giản không thể tạo ra được nước cam, thì một máy tính phức tạp hơn nó nhiều lần cũng không tạo ra được. Những con chip máy tính chỉ là chất nền sai, chất liệu sai cho ý thức. Vậy liệu có thể có phép lạ nào chăng nếu bạn tập hợp thật nhiều chúng lại? Có thể. Nhưng tôi không có lý do gì để tin rằng một phép lạ như thế sẽ xảy ra.

SPIEGEL: Giả sử chúng ta có thể làm ra được một đồ giả thật sự tốt, một rô bôt có thể giả vờ là ý thức một cách rất thuyết phục – liệu chúng ta có nhận ra là nó không phải là vật thật hay không?

Gelernter: Nó đã không tạo ra sự khác biệt nào đối với chúng ta. Chỉ cần lấy những rô bôt ở Iraq và Afghanistan nơi chúng đi dò mìn vân vân. Những người ở tuyền đầu trở nên gắn bó tình cảm với những rô bôt của họ, họ buồn khi chúng bị phá hủy. Và năm mươi năm nữa kể từ nay, rô bôt sẽ tốt hơn rât nhiều. Trên thế giới có rất nhiều người cô đơn. Như vậy bây giờ họ có rô bôt, nó quanh quẩn bên họ suốt ngày, trò chuyện với họ. Chắc chắn họ sẽ gắn bó với chúng. Rô bôt sẽ biết tất cả về họ. Rô bôt sẽ có khả năng nói những câu như, “Sáng nay bà cảm thấy thế nào? Tôi thấy lưng bà hôm qua bị đau phải không” Người ta sẽ có tình cảm kiểu con người với rô bôt không? Chắc chắn có. Và khi đó câu hỏi trở thành: theo nghĩa này, họ đang bị lừa gạt, vậy chuyện đó có quan trọng gì không? Câu trả lời là, ta biết rằng việc tìm bầu bạn trên thế giới này vốn khó khăn, có lẽ trong thực tế chuyện đó cũng không quan trọng gì lắm. Tuy nhiên, nó chắc chắn quan trọng về mặt triết học. Nếu bạn quan tâm về vấn đề con người là gì, thì rô bôt không thể nói cho bạn biết.

SPIEGEL: Sự thể có thể thay đổi nếu ta cho nó một thân thể nửa hoàn chỉnh, trang bị bằng những cảm biến giúp cho nó cảm giác được mọi vật và thám hiểm môi trường xung quanh như con người đã làm.

Gelernter: Trong trường hợp đó máy sẽ có khả năng làm giả tính người hiệu quả hơn nhiều. Nhưng thân thể giả gắn vào một máy tính vẫn không tạo ra những cảm giác thực. Nếu bạn đá phải một cái gì đó, não bạn sẽ ghi nhận cái mà chúng ta gọi là đau. Nếu bạn nghĩ sáng mai sẽ xảy ra một việc tốt lành, cơ thể sẽ đáp ứng bằng cách cảm thấy dễ chịu, khi đó trí óc cảm thấy thoải mái hơn và vân vân. Vòng phản hồi kín này là rất quan trọng đối với hành vi của con người. Còn đối với một cơ thể giả, nó vẫn chỉ là chuyển đổi hai chiều lên xuống của điện áp mà thôi.

SPIEGEL: Nhà khoa học máy tính Hoa kỳ Ray Kurzweil lập luận rằng bản thân Internet có thể đang mấp mé trở thành siêu thông minh, chỉ vì nó sẽ có năng lực tính toán vượt xa mọi tưởng tượng. Và niềm tin của ông ấy đang trở thành phổ biến. Tại sao những ý tưởng ấy lại hấp dẫn như vậy.

Gelernter: Bởi vì tạo ra trí tuệ là hòn đã triết học của Thời đại Công nghệ Số. Trong thời Trung Cổ, các nhà giả kim cố gắng tạo ra vàng. Nay họ chuyển sang trí tuệ. Đừng hiểu sai tôi: Họ sắp sửa tạo ra rất nhiều khoa học thú vị trên con đường đó. Nhưng họ sẽ không tạo ra được trí tuệ.

“Nếu anh chết, thì anh đã chết”

SPIEGEL: Cái gọi là Phong trào Kỳ dị tiên đoán sự tiến bộ của máy móc có trí thông minh cao sẽ có một ngày thậm chí trở thành bộ phận của cơ thể chúng ta.

Gelernter: Chúng ta đang được hiến nhiều cách hơn bao giờ hết để hủy diệt loài người bằng cách phủ nhận ý nghĩa của tính người. Trong giới khoa học viễn tưởng có người nói “tôi sẽ sống mãi đến chừng nào tôi có thể lấy toàn bộ trạng thái tinh thần của tôi ra và nạp nó vào một máy chủ nào đó, và sau đó tôi chết, nhưng điều đó không quan trọng nếu trí tuệ của tôi còn ở lại đó.” Bất cứ một đứa trẻ lên hai nào cũng có thể thấy cái dở của lập luận này: nếu anh chết, thì anh đã chết, và nếu có một bản sao hay một tỉ bản sao của cái từng là trí tuệ của anh trước khi anh chết, thì cũng có gì là quan trọng. Nó không quan trọng gì với anh nữa. Anh vẫn chết. Một loại suy triết học lớn của nửa sau thế kỷ 20 là trí tuệ là thuộc bộ não cũng như phần mềm là thuộc máy tính. Nhưng điều ấy là vớ vẩn. Không có sự tương tự giữa bộ não và phần mềm.

SPIEGEL:
Tại sao không?

Gelernter:
Nếu bạn có một phần mềm, bạn có thể sao ra bao nhiêu bản tùy thích. Bạn có thể đưa nó vào một triệu máy tính, và nó luôn luôn chính xác là phần mềm đó. Còn trí tuệ thì hoạt động chính xác trên một cái nền. Bạn không thể đánh đổi trí tuệ vào một phương tiện lưu trữ nào rồi cho nó hoạt động trở lại sau khi đã giữ nó ngoài mạng.

SPIEGEL: Theo giả thuyết, điều gì sẽ xảy ra nếu ta có thể chuyển được bộ não của một người vào thân thể của một người khác?

Gelernter: Sẽ không còn là não nữa. Khi bạn lấy bộ não ra khỏi một người và đưa nó vào đầu của người khác, trí tuệ mà bạn có trước đó sẽ mất đi bởi vì trí tuệ đó là một phần của một cơ thể và đáp ứng với cơ thể đó. Theo quan điểm y học, vấn đề là nếu bộ não là một cơ quan đủ mềm dẻo để tự nó tái hòa hợp với một loại đầu vào khác từ một thân thể khác. Nhưng trí tuệ ban đầu chắc chắn sẽ mất.

SPIEGEL: Giả sử những cách nhìn phổ biến về Trí tuệ Nhân tạo không trở thành sự thật trong tương lai có thể thấy trước, ông thấy việc nghiên cứu Trí tuệ Nhân tạo sẽ đi về đâu trong thập niên tới?

Gelernter: Tôi hy vọng rằng triết học về trí tuệ và khoa học nhận thức sẽ phát triển một lý thuyết rất tinh vi về cách hoạt động của trí tuệ. Triết học về trí tuệ đã bị lóa mắt bởi máy tính, nó đang đi theo một con đường sai lầm. Chúng ta phải rũ bỏ cái ám ảnh vớ vẩn với máy tính, đã gây ra vô vàn thiệt hại. Những ai lo ngại về cái Kỳ dị nên quay trở lại đọc Nietzsche. Họ nên cố gắng hiểu Kafka một cách nghiêm túc. Họ nên đọc một nhà thơ như William Wordsworth. Trong một cố gắng hoàn toàn biệt lập, Trí tuệ Nhân tạo sẽ tạo ra ngày càng nhiều máy móc mạnh. Chúng ta sẽ dựa rất nhiều trên chúng. Chúng sẽ luôn luôn sửa chữa những vấn đề và trả lời các câu hỏi cho chúng ta. Không ai sẽ khẳng định rằng chúng có trí tuệ, ít nhất là tất cả những người xây dựng lên các chương trình đó.

SPIEGEL: Một trong những trợ thủ mạnh mẽ đó có thể sẽ là hậu duệ của Watson. Chúng ta hãy giả sử nó teo lại bằng kích thước một hạt đậu Hà Lan, và có thể cắm nó vào não chúng ta. Liệu có phải tuyệt vời không khi có trong tay tất cả kiến thức đó, lại ở bên trong cơ thể bạn?

Gelernter: Tôi có thể đã có sẵn tất cả kiến thức của Watson rồi, bằng cách chỉ mở laptop của tôi ra. Có quan trọng gì cái việc tôi có thể có câu trả lời không phải trong 10 giây mà trong 10 micro giây? Nó thật sự phụ thuộc vào việc tôi xác định như thế nào tính nguyên vẹn của tôi như một con người. Tôi có thể truy cập trực tiếp hơn vào một triệu sự kiện rời rạc hoàn toàn vô nghĩa nếu tôi cấy một con chip Watson rồi đi thi Jeopardy. Tôi có thể thắng cuộc thi Jeopardy. Tuy nhiên, nó không cho tôi hạnh phúc, sự thỏa mãn, cảm giác chiến thắng, cảm giác về tài nghệ của mình.

SPIEGEL: Ông không cảm thấy bị cám dỗ kiếm cho mình một Watson à?

Gelernter: Có chứ. Đó là một vật thể công nghệ rất tuyệt, rất lý thú. Tôi không muốn lấy bất cứ thứ gì ra khỏi nó. Nó đặt AI (Trí tuệ Nhân tạo) trên con đường dẫn đến việc tạo ra một công nghệ quyến rũ. Nó sử dụng đúng thứ mà chúng ta đang giàu có, tức là sức mạnh máy tính thuần túy nguyên thủy, để tạo ra những câu trả lời cực kỳ phức tạp cho những câu hỏi phức tạp. Chúng ta cần cái khả năng đó, và Watson có thể làm được.

SPIEGEL: Ông có chịu đổi con vẹt của ông lấy Watson không, nếu ông phải lựa chọn?

Gelernter: Không đời nào tôi đổi con vẹt của tôi lấy bất cứ một phần mềm nào. Nhìn nó kìa. Nó có một cái mặt. Nó có nụ cười nở rộng trên cái mỏ của nó. Nó là một tạo vật có tình cảm, có những mối quan tâm và là một thành viên của gia đình. Bạn phải có cái gì hơn Watson rất nhiều tôi mới chịu đổi con vẹt của tôi.

Philip Bethge và  Manfred Dworschak thực hiện cuộc phỏng vấn này

© Hiếu Tân

Phản hồi