SensorFM: पहनने योग्य उपकरणों के लिए एक फाउंडेशन मॉडल जिसे एक ट्रिलियन मिनट के डेटा पर प्रशिक्षित किया गया

गूगल रिसर्च ने सेंसरएफएम प्रस्तुत किया है, जो पचास लाख सहमति प्राप्त प्रतिभागियों से एक ट्रिलियन मिनट से अधिक मल्टीमॉडल सेंसर सिग्नल पर पूर्व-प्रशिक्षित एक बड़ा सेंसर फाउंडेशन मॉडल है। यह मॉडल एलएसएम-2 दृष्टिकोण और एडेप्टिव एंड इनहेरिटेड मास्किंग फ्रेमवर्क का उपयोग करके स्व-पर्यवेक्षित पुनर्निर्माण के माध्यम से सीखता है, वास्तविक दुनिया के लापता डेटा को एक प्राकृतिक कलाकृति के रूप में मानता है। स्केलिंग प्रयोगों से पता चलता है कि डेटा और मॉडल आकार दोनों बढ़ाने से पूर्व-प्रशिक्षण हानि और डाउनस्ट्रीम प्रदर्शन में लगभग रैखिक सुधार होता है, जिसमें सबसे बड़ा मॉडल 35 कार्यों में से 33 में विजयी होता है। तीन स्वतंत्र अध्ययनों के 35 स्वास्थ्य कार्यों पर मूल्यांकन किए जाने पर, सेंसरएफएम के फ्रोजन एम्बेडिंग पर्यवेक्षित बेसलाइन से बेहतर प्रदर्शन करते हैं, और एलएलएम एजेंटों का एक एजेंटिक 'क्लासरूम' स्वचालित रूप से भविष्यवाणी हेड डिज़ाइन करता है जो अधिकांश कार्यों पर लीनियर प्रोब से बेहतर होते हैं। जब पर्सनल हेल्थ एजेंट में एकीकृत किया जाता है, तो सेंसरएफएम की भविष्यवाणियां बेसलाइन की तुलना में स्वास्थ्य सारांश गुणवत्ता में महत्वपूर्ण सुधार लाती हैं, जिसमें ग्राउंड-ट्रूथ माप का उपयोग करने से कोई सांख्यिकीय अंतर नहीं होता है।