• <tr id="qwu6y"></tr>
  • <menu id="qwu6y"><wbr id="qwu6y"></wbr></menu>
  • 合肥金星智控科技股份有限公司
    宣傳

    位置:中冶有色 >

    有色技術頻道 >

    > 化學分析技術

    > 資源高效與服務質量感知的推理服務系統自適應調度方法

    資源高效與服務質量感知的推理服務系統自適應調度方法

    737   編輯:管理員   來源:中冶有色網  
    2023-03-19 08:56:57
    本發明公開了一種資源高效與服務質量感知的推理服務系統自適應調度方法,包括:深度學習模型自動選擇模塊利用協同過濾方法預測推理工作負載在不同深度學習模型上運行的推理性能;深度學習模型自動選擇模塊利用貪婪算法選擇滿足用戶服務質量需求的最優深度學習模型,并將最優深度學習模型部署至容器中為推理服務系統中的推理工作負載服務;協同管理模塊利用深度強化學習方法,根據推理工作負載的動態變化,協同地調整GPU資源分配和批量大小設置,本發明可根據用戶的需求自動地選擇深度學習模型,可根據推理工作負載的動態變化協同地調整GPU資源的分配和批量大小的設置。
    登錄解鎖全文
    聲明:
    “資源高效與服務質量感知的推理服務系統自適應調度方法” 該技術專利(論文)所有權利歸屬于技術(論文)所有人。僅供學習研究,如用于商業用途,請聯系該技術所有人。
    我是此專利(論文)的發明人(作者)
    分享 0
             
    舉報 0
    收藏 0
    反對 0
    點贊 0
    標簽:
    化學分析
    全國熱門有色金屬技術推薦
    展開更多 +

     

    中冶有色技術平臺

    最新更新技術

    報名參會
    更多+

    報告下載

    赤泥綜合利用研究報告2025
    推廣

    熱門技術
    更多+

    衡水宏運壓濾機有限公司
    宣傳
    環磨科技控股(集團)有限公司
    宣傳

    發布

    在線客服

    公眾號

    電話

    頂部
    咨詢電話:
    010-88793500-807
    專利人/作者信息登記
    久爱国产精品一区免费视频_无码国模国产在线观看_久久久久精品国产亚洲A_国产综合精品无码
  • <tr id="qwu6y"></tr>
  • <menu id="qwu6y"><wbr id="qwu6y"></wbr></menu>