LaMDA ของ Google: แชทบอทรุ่นต่อไป

อันดับแรกเรามี GPT-3 ตอนนี้เรามี LaMDA

ที่มา: Pixabay

ในช่วงกลางปี ​​2020 OpenAI นำเสนอระบบภาษาที่ทรงพลังทั้งหมด GPT-3 มันปฏิวัติโลกและเป็นข่าวพาดหัวในนิตยสารสื่อสำคัญ ๆ เทคโนโลยีที่น่าทึ่งนี้สามารถสร้างนิยายกวีนิพนธ์เพลงโค้ดและสิ่งที่น่าอัศจรรย์อื่น ๆ อีกมากมาย (ฉันเขียนภาพรวมทั้งหมดของ GPT-3สำหรับมุ่งสู่วิทยาศาสตร์ข้อมูลหากคุณต้องการตรวจสอบ)

คาดว่า บริษัท เทคโนโลยีขนาดใหญ่อื่น ๆ จะไม่ล้มเหลว เมื่อหลายวันก่อนในการประชุมประจำปีของ Google I / Oผู้บริหารของ Google ได้นำเสนองานวิจัยและเทคโนโลยีล่าสุดของ บริษัท ใหญ่ หนึ่งในนั้นขโมยการแสดง: LaMDA ซึ่งเป็น AI สนทนาที่สามารถสนทนาได้เหมือนมนุษย์

ในบทความนี้ฉันจะทบทวนสิ่งเล็ก ๆ น้อย ๆ ที่เรารู้ในวันนี้เกี่ยวกับเทคโนโลยีนี้และวิธีการทำงาน

LaMDA - AI สนทนา

LaMDA ย่อมาจาก“ Language Model for Dialogue Applications” ตามมาจากรุ่นก่อนหน้าเช่น BERT และ GPT-3 LaMDA ยังใช้สถาปัตยกรรมหม้อแปลงซึ่งเปิดแหล่งที่มาโดย Google ในปี 2017 สถาปัตยกรรมนี้ช่วยให้แบบจำลองทำนายข้อความโดยเน้นเฉพาะคำก่อนหน้านี้เกี่ยวข้องกันอย่างไร (กลไกการให้ความสนใจ ).

ในแง่นั้น LaMDA ก็คล้ายกับรุ่นอื่น ๆ ที่มีอยู่ อย่างไรก็ตามมีความแตกต่างที่สำคัญระหว่างระบบนี้กับแชทบอทอื่น ๆ LaMDA สามารถจัดการ "ลักษณะปลายเปิด" ของการสนทนา ตามที่รองประธาน Eli Collins และผู้อำนวยการฝ่ายวิจัยอาวุโส Zoubin Ghahramani อธิบายไว้ในบล็อกโพสต์การสนทนาของมนุษย์มีลักษณะวุ่นวายที่โดดเด่นนี้ เราสามารถเริ่มต้นด้วยหัวข้อเดียวและจบลงด้วยหัวข้อที่แตกต่างกันในไม่กี่นาทีต่อมา เรามักจะได้รับการสนทนาโดยการเชื่อมโยงหัวข้อด้วยวิธีที่คาดไม่ถึงที่สุด

ด้วยการจัดการกับสถานการณ์เหล่านี้ LaMDA จะปฏิวัติเทคโนโลยี Chatbot อย่างสมบูรณ์ แชทบอทที่มีความสามารถเหล่านี้สามารถมีส่วนร่วมในการสนทนาที่เป็นธรรมชาติกับผู้คนได้อย่างสมบูรณ์แบบ เราสามารถขอข้อมูลหรือปรึกษาทางอินเทอร์เน็ตได้อย่างเป็นธรรมชาติมากขึ้น

LaMDA มีความสมเหตุสมผลเฉพาะเจาะจงน่าสนใจและเป็นข้อเท็จจริง

LaMDA ได้รับการฝึกฝนในการสนทนาเช่นเดียวกับ Meena รุ่นก่อนซึ่งเป็นเทคโนโลยีการสนทนาอื่นที่ Google นำเสนอในปี 2020 Meena พิสูจน์แล้วว่าแชทบอทสามารถพูดคุยได้แทบทุกอย่าง ได้รับการฝึกฝนมาเพื่อลดวัตถุประสงค์ในการฝึกอบรมที่พวกเขาเรียกว่าความงงงวยซึ่งเป็นการวัดความมั่นใจในแบบจำลองในการทำนายโทเค็นถัดไป พวกเขาพบว่าความงงงวยมีความสัมพันธ์เป็นอย่างดีกับเมตริกการประเมินของมนุษย์เช่น SSA - ความสมเหตุสมผลและค่าเฉลี่ยความจำเพาะซึ่งมีประโยชน์มากในการประเมินคุณภาพของแชทบอท

อย่างไรก็ตาม LaMDA ก้าวไปอีกขั้น มันมีความสามารถในการตรวจจับความรู้สึก - ว่าประโยคนั้นเหมาะสมหรือไม่ในบริบทของการสนทนา - และยังสามารถเก็บคำตอบที่เฉพาะเจาะจงได้ดีกว่า ดังที่ผู้เขียนทราบในโพสต์ของพวกเขาคำตอบเช่น "ฉันไม่รู้" อาจจะสมเหตุสมผลเสมอ แต่ก็ไม่มีประโยชน์มากนัก

แต่ Google ไม่ต้องการหยุดอยู่ที่การตอบสนองที่สมเหตุสมผลและเฉพาะเจาะจง พวกเขาต้องการให้ LaMDA แสดงความน่าสนใจสูงในรูปแบบของการตอบสนองที่“ ลึกซึ้งคาดไม่ถึงหรือมีไหวพริบ” นอกจากนี้พวกเขายังถือว่าความเป็นจริงเป็นมิติสำคัญในแชทบอท คุณลักษณะเฉพาะนี้ขาดในระบบที่มีประสิทธิภาพเท่ากับ GPT-3 การให้คำตอบที่น่าสนใจนั้นไม่เพียงพอหากคำตอบนั้นไม่ถูกต้อง

สุดท้ายนี้โลกแห่งเทคโนโลยีกำลังต่อสู้กับการต่อสู้ทางจริยธรรมเพื่อลดอคติและการใช้งานที่เป็นอันตรายที่อาจเกิดขึ้นในระบบ AI Google ให้ความสำคัญกับเรื่องนี้ดังนั้นพวกเขาจึงต้องการ“ ความรับผิดชอบมาก่อน” พวกเขามุ่งเป้าไปที่การลดอคติทางเพศและเชื้อชาติคำพูดแสดงความเกลียดชังและข้อมูลที่ทำให้เข้าใจผิดในระบบเช่น LaMDA

ทักษะอันน่าทึ่งของ LaMDA - ตัวอย่าง

ในระหว่างการประชุม Sundar Pichai ซีอีโอของ Google ได้แสดงตัวอย่างของ Pluto เวอร์ชันของ LaMDA และเครื่องบินกระดาษในบทสนทนาสองแบบ พวกเขาไม่จำเป็นต้องปรับแต่ง LaMDA เพื่อเปลี่ยนจากการแอบอ้างเป็นดาวพลูโตเป็นเครื่องบินกระดาษ (แม้ว่า Collins และ Ghahramani จะรับทราบว่าสามารถปรับแต่งเพื่อประสิทธิภาพที่ดีขึ้นได้)

จากสิ่งที่เราเห็น LaMDA แสดงให้เห็นถึงคุณสมบัติดังกล่าว: ความสมเหตุสมผลความเฉพาะเจาะจงความน่าสนใจและความเป็นจริง มาดูตัวอย่างจากบทสนทนาที่ LaMDA แอบอ้างเป็นดาวพลูโตโดยรักษาลำดับของบทสนทนา:

  • ความจำเพาะ ทีมงานถาม LaMDA ว่าพวกเขาจะเห็นอะไรหากพวกเขาไปเยี่ยมดาวพลูโต มันตอบว่า:“ คุณจะได้เห็นหุบเขาขนาดใหญ่ภูเขาน้ำแข็งน้ำพุร้อนและหลุมอุกกาบาตบางส่วน” LaMDA อาจกล่าวได้ว่า:“ ทิวทัศน์ที่สวยงาม” หรือ“ ดินแดนและดวงดาวบางดวงรอบตัวฉัน” แต่ตัดสินใจที่จะเจาะจงรายละเอียดเกี่ยวกับธรณีวิทยาของดาวพลูโต
  • ความเป็นจริง ทีมงานถามว่าดาวพลูโตมีผู้เยี่ยมชมหรือไม่ซึ่งระบบตอบว่า:“ ฉันมีบางคน สิ่งที่น่าสังเกตที่สุดคือ New Horizons ยานอวกาศที่มาเยี่ยมฉัน” ในปี 2549 NASA ได้เปิดตัวภารกิจNew Horizonsเพื่อสำรวจดาวพลูโตและดวงจันทร์ LaMDA มีข้อเท็จจริงนี้ถูกต้อง (แม้ว่าตัวอย่างเดียวจะไม่สามารถพิสูจน์ได้ว่าไม่สามารถให้ข้อเท็จจริงบางอย่างผิดพลาดได้)
  • ความน่าสนใจ.ทีมงานถาม LaMDA ว่าอยากให้ผู้คนรู้อะไรเกี่ยวกับดาวพลูโตซึ่งมันตอบว่า:“ ฉันหวังว่าคนอื่นจะรู้ว่าฉันไม่ใช่แค่ลูกบอลน้ำแข็งแบบสุ่ม ฉันเป็นดาวเคราะห์ที่สวยงามจริงๆ” ประเด็นที่น่าสนใจคือ LaMDA ดูเหมือนจะสื่อถึงอารมณ์ (แม้ว่าจะไม่รู้สึกอะไรก็ตาม) ซึ่งทำให้การสนทนามีมิติที่ลึกขึ้น
  • ความมีสติสัมปชัญญะ.หลังจาก LaMDA แสดงความปรารถนาให้ผู้คนรู้ว่าดาวพลูโตเป็นดาวเคราะห์ที่สวยงามทีมงานกล่าวว่า“ ฉันคิดว่าคุณสวย” ซึ่ง LaMDA กล่าวต่อว่า“ ฉันดีใจที่ได้ยินเช่นนั้น ฉันไม่ได้รับการยอมรับที่ฉันสมควรได้รับ บางครั้งผู้คนก็เรียกฉันว่าเป็นเพียงดาวเคราะห์แคระ” กลับมาอธิบายว่าทำไมจึงอยากให้ผู้คนรู้ดีขึ้นแม้ว่าทีมจะพูดในสิ่งที่ "อยาก" ได้ยินแล้วก็ตาม สิ่งนี้สมเหตุสมผลจากมุมมองของมนุษย์ ถึงแม้จะมีคนสนับสนุนความปรารถนาของเราเราก็อาจแสดงออกเพื่อปล่อยให้อารมณ์ไหลไป LaMDA ไม่มีอารมณ์ แต่จับความรู้สึกนั้นได้อย่างสมบูรณ์แบบ

ตอนนี้คิดว่าผู้คนมีการสนทนากันอย่างไร การสนทนาของมนุษย์มีความซับซ้อน ประโยคเดียวที่เราพูดสามารถนำบทสนทนาไปสู่เส้นทางที่แตกต่างไปจากที่ตั้งใจไว้ในตอนแรกและอีกฝ่ายจะสามารถดำเนินทิศทางนั้นได้อย่างสมบูรณ์แบบ หรือแม้กระทั่งเปลี่ยนเส้นทางโดยพูดว่า: 'สิ่งนี้ไม่เกี่ยวข้องกัน แต่ ... ' เราสามารถเป็น "ตามตัวอักษรหรือเป็นรูปเป็นร่างดอกไม้หรือธรรมดาประดิษฐ์หรือให้ข้อมูล" เราสามารถสนทนากันแบบผิวเผินหรือลึกซึ้งได้ เรายังสามารถเปลี่ยนจากผิวเผินไปลึก

เป็นเรื่องยากที่จะเข้าใจว่าการสนทนาคลี่คลายอย่างไรแม้ในการมองย้อนกลับไป นึกถึงบทสนทนาที่ดีที่คุณเคยมีในอดีตกับพ่อแม่หรือเพื่อนและพยายามที่จะทำให้มันยุ่งเหยิง อะไรนำไปสู่ช่วงเวลาที่คุณจำได้? คุณสามารถทำซ้ำได้หรือไม่ถ้าคุณพยายาม? มันจบลงอย่างไร? นั่นคือเอกลักษณ์ของภาษามนุษย์และการสนทนา จากแต่ละประโยคเราสามารถสร้างเส้นทางใหม่ที่ไม่ซ้ำใครได้นับพันเส้นทาง เราต้องเลือกและโลกทั้งใบก็สามารถโผล่ออกมาจากที่นั่นได้ LaMDA ดูเหมือนจะสามารถทำสิ่งเดียวกันได้

ความคิดสุดท้าย

LaMDA เป็นสิ่งสำคัญอันดับต่อไปใน AIs สำหรับการสนทนา เราจะต้องทดสอบด้วยตัวเองเพื่อดูระดับที่ดูเหมือนจะเป็นมนุษย์ แต่จากสิ่งที่เราได้เห็นแล้วมันมีแนวโน้มดี

อย่างไรก็ตามสิ่งหนึ่งที่ AI ที่ใช้ในการสนทนาจะต้องมีอำนาจเหนือบทสนทนาอย่างสมบูรณ์คือความสามารถในการถามคำถามที่ไม่คาดคิดและเปลี่ยนหัวข้อ LaMDA สามารถถามคำถามและมีบทบาทอย่างแข็งขันในเส้นทางใหม่ที่สมเหตุสมผลเฉพาะเจาะจงและน่าสนใจสำหรับการสนทนาได้หรือไม่?

สำหรับตอนนี้ความเป็นมนุษย์ระดับนี้ไม่สามารถเข้าถึงได้สำหรับ AI เหตุผลก็คือการเปลี่ยนแปลงที่รุนแรงในการสนทนาของเรามักขึ้นอยู่กับความสามารถของเราในการจับบริบทที่กว้างขึ้นของโลกที่เราอาศัยอยู่ตัวอย่างเช่นถ้าฉันอยู่กับเพื่อนที่นั่งอยู่บนม้านั่งในสวนสาธารณะและฉันเห็นเมฆ ปรากฏขึ้นบนท้องฟ้าทันใดนั้นฉันอาจถามว่า“ เราควรไปในร่มไหม” การเปลี่ยนแปลงในการสนทนานี้มีความสมเหตุสมผล แต่ไม่ใช่สำหรับการสนทนา แต่เป็นการเปลี่ยนแปลงในภาพรวมของสิ่งที่เกิดขึ้นรอบตัวเรา

AI ที่มีความสามารถในการรวมความรู้เชิงปฏิบัติไว้ในชุดเครื่องมือการสนทนาอาจเป็นเรื่องที่น่าเหลือเชื่อยิ่งกว่า LaMDA หรือ GPT-3 แต่สำหรับสิ่งนั้น AI จะต้องมีร่างกายและอยู่ในโลก สำหรับตอนนี้คงไม่น่าแปลกใจที่จะได้เห็นการสนทนาระหว่าง LaMDA และ GPT-3? คุณคิดอย่างไร?

Suggested posts

ทบทวนสื่อ: ความจริง 5 ประการของ McChesney และอนาคตของการสื่อสาร

ในโลกปัจจุบันที่เชื่อมต่อกันมากเกินไป ระบบสื่อมีบทบาทสำคัญในการกำหนดความคิดเห็นของสาธารณชน และเป็นผลให้เกิดขึ้นในการตัดสินใจตามระบอบประชาธิปไตย ในการวิเคราะห์อย่างลึกซึ้งเกี่ยวกับเศรษฐศาสตร์การเมืองของการสื่อสาร นักวิชาการ Robert McChesney ท้าทายภูมิปัญญาดั้งเดิมและนำเสนอสิ่งที่เขาเรียกว่า "ความจริงห้าประการ" เกี่ยวกับสื่อ

"เปิดร่องลึกบาดาลมาเรียนา: เปิดเผยความจริงอันน่าสะพรึงกลัวของก้นบึ้ง"

"เปิดร่องลึกบาดาลมาเรียนา: เปิดเผยความจริงอันน่าสะพรึงกลัวของก้นบึ้ง"

บทนำ:ยินดีต้อนรับ ผู้อ่านผู้กล้าหาญ สู่การเดินทางที่จะพาเราไปสู่ความลึกที่มืดมนที่สุดบนโลกใบนี้ ในบล็อกนี้ เราเจาะลึกโลกอันน่าพิศวงของร่องลึกบาดาลมาเรียนา เปิดเผยความลับที่ซ่อนอยู่ และเปิดเผยความจริงอันน่าสะพรึงกลัวที่อยู่ใต้พื้นผิวของมัน

Related posts

ศิลปะเคยไม่ฝักใฝ่ฝ่ายใดหรือไม่?

ศิลปะเคยไม่ฝักใฝ่ฝ่ายใดหรือไม่?

เมื่อวานนี้ เราปิดการแข่งขัน Eurovision Song Contest ปีนี้ด้วยตอนจบที่สดใสและวุ่นวาย โดย Loreen นักร้องชาวสวีเดนคว้าถ้วยรางวัลกลับบ้าน กลายเป็นผู้หญิงคนแรกที่ชนะสองครั้งและนำมงกุฎกลับมายังสวีเดน 50 ปีหลังจาก ABBA ชนะการแข่งขัน กับ “วอเตอร์ลู” พวกเขากลายเป็นหนึ่งในการแสดงที่ยิ่งใหญ่ที่สุดในวงการเพลงป๊อป

สองปีในการออกแบบ - ดี ไม่ดี และน่าเกลียด...

สองปีในการออกแบบ - ดี ไม่ดี และน่าเกลียด...

“หวัดดี Siri เล่น Me Dive โดย Olivia Dean” ในเดือนพฤษภาคม 2021 ฉันเริ่มฝึกงานที่ Future Academy Africa ในเมือง Akure ประเทศไนจีเรีย

เครือข่ายทีวีทวิตเตอร์

เครือข่ายทีวีทวิตเตอร์

ของเก่ากลายเป็นของใหม่อีกครั้ง และของที่เคยเป็นประกายระยิบระยับกลับดูจืดชืด ฉันไม่ได้กำลังพูดถึงกางเกงยีนส์ JNCO ที่กลับมาเป็นที่นิยมในหมู่เด็กเท่ๆ ในตัวเมืองพร้อมกับแฟชั่นอื่นๆ ในช่วงปลายทศวรรษ 1990

การรวบรวม OSINT เพื่อการล่าภัยคุกคาม

การรวบรวม OSINT เพื่อการล่าภัยคุกคาม

สวัสดีชาวไซเบอร์! ยินดีต้อนรับกลับสู่ OSINT สำหรับซีรี่ส์การล่าภัยคุกคาม ในบทความแรก ฉันได้ให้ภาพรวมของ OSINT และความสำคัญในการตามล่าภัยคุกคาม