文字
縮放
增大字體
減小字體
上海交通大學 劉衛東教授:Distributed Robust Estimation on Sparse Linear Regression

([西財新聞] 發布于 :2019-07-24 )

光華講壇——社會名流與企業家論壇第5508期

 

主題:Distributed Robust Estimation on Sparse Linear Regression

主講人:上海交通大學 劉衛東教

主持人:統計學院統計研究中心 林華珍教授

時間:2019年7月25日上午10:30-11:30

地點:西南財經大學柳林校區弘遠樓408會議室

主辦單位:統計研究中心 統計學院 科研處

 

主講人簡介:

劉衛東,上海交通大學教授。2003年本科畢業于浙江大學數學系,于2008年獲得浙江大學博士學位,2008-2011年在香港科技大學和美國賓夕法尼亞大學沃頓商學院擔任博士后研究員,2018年獲國家杰出青年科學基金。主要研究方向為統計學理論和機器學習等。

主要內容:

This paper studies distributed estimation and support recovery for high-dimensional linear regression model with heavy-tailed noise. To deal with heavy-tailed noise whose variance can be infinite, we adopt the quantile regression loss function instead of the commonly used squared loss. However, the non-smooth quantile loss poses new challenges to high-dimensional distributed estimation in both computation and theoretical development. To address the challenge, we transform the response variable and establish a new connection between quantile regression and ordinary linear regression. Then, we provide a distributed estimator that is both computationally and communicationally efficient, where only the gradient information is communicated at each iteration. Theoretically, we show that the proposed estimator achieves the optimal convergence rate (i.e., the oracle convergence rate when all the data is pooled on a single machine) without any restriction on the number of machines. Moreover, we establish the theoretical guarantee for the support recovery. The simulation and real data analysis are provided to demonstrate the effectiveness of our estimator.

這篇文章研究了具有厚尾噪聲的高維線性回歸模型的分布估計和支撐復原問題。針對方差為無窮大的厚尾噪聲,我們采用分位數回歸損失函數代替常用的平方損失函數。然而,非光滑分位數損失在計算和理論發展上都對高維分布估計提出了新的挑戰。為了解決這個問題,我們對響應變量進行了轉換,并在分位數回歸和普通線性回歸之間建立了新的聯系。然后,我們提供了一個可計算、通信便捷的分布式估計量,其中只有梯度信息在每次迭代中進行通信。從理論上,我們證明了該估計量達到了最優收斂速度(當所有數據匯集在一臺機器上時的oracle收斂速度),而不受機器數量的限制。同時,我們還建立了支撐復原的理論保障。仿真和實際數據分析表明了該估計量的有效性。

☆該新聞已被瀏覽: 次★

打印本文】 【關閉窗口



彩票娱乐在线 安庆市 | 买车 | 陵川县 | 萨迦县 | 孙吴县 | 赤壁市 | 重庆市 | 鄂托克前旗 | 东乡县 | 潜江市 | 柘城县 | 德安县 | 社会 | 舟山市 | 扬中市 | 科尔 | 哈密市 | 五莲县 | 青河县 | 镇赉县 | 博白县 | 治多县 | 龙江县 | 华安县 | 开平市 | 砚山县 | 类乌齐县 | 高青县 | 阿城市 | 紫云 | 溧水县 | 河间市 | 乐至县 | 台州市 | 高阳县 | 奉节县 | 南城县 | 普定县 | 娱乐 | 金沙县 | 南投县 | 峨山 | 都江堰市 | 邓州市 | 定安县 | 昂仁县 | 和政县 | 天祝 | 安远县 | 天门市 | 光泽县 | 兴海县 | 青田县 | 河北区 | 隆林 | 牟定县 | 北票市 | 彭山县 | 丁青县 | 万全县 | 金湖县 | 怀集县 | 三亚市 | 商南县 | 扶风县 | 安顺市 | 邵东县 | 金华市 | 左云县 | 万宁市 | 密云县 | 南京市 | 新泰市 | 施秉县 | 东乡族自治县 | 南投县 | 江华 | 汝阳县 | 焦作市 | 三明市 | 晋中市 | 志丹县 | 望城县 | 宁晋县 | 成都市 | 舟山市 | 江孜县 | 鄂伦春自治旗 | 邵阳市 | 涟水县 | 日照市 | 商洛市 | 贡觉县 | 新乐市 | 中阳县 | 霍州市 | 永靖县 | 修文县 | 黄梅县 | 农安县 | 五指山市 | 黑龙江省 | 揭西县 | 新巴尔虎右旗 | 中江县 | 呼和浩特市 | 永胜县 | 玛多县 | 靖州 | 昌吉市 | 磐石市 | 承德市 | 江西省 | 马鞍山市 | 大石桥市 | 志丹县 | 岑溪市 | 南京市 | 克拉玛依市 | 榆林市 | 开封市 | 张家口市 | 鹿邑县 | 临泽县 | 满洲里市 | 荥阳市 | 惠水县 | 改则县 | 洛浦县 | 梁河县 | 锦屏县 | 西安市 | 大荔县 | 庆阳市 | 龙陵县 | 石首市 | 祁东县 | 寿阳县 | 彭山县 | 常熟市 | 蓬安县 | 城市 | 鲁山县 | 左贡县 | 博客 | 叶城县 | 焉耆 | 宁波市 | 石台县 | 临朐县 | 济源市 | 象山县 | 涿州市 | 和政县 | 重庆市 | 长汀县 | 鄯善县 | 汶川县 | 云霄县 | 通城县 | 叶城县 | 乐东 | 临夏市 | 岢岚县 | 南昌县 | 新龙县 | 两当县 | 区。 | 康乐县 | 渭南市 | 沙田区 | 曲水县 | 新兴县 | 长宁区 | 台中市 | 陇西县 | 平远县 | 东丰县 | 桃源县 | 安岳县 | 施秉县 | 汉阴县 | 衡水市 | 安新县 | 宽甸 | 甘孜县 | 迭部县 | 江津市 | 嘉祥县 | 古交市 | 巨鹿县 | 贵州省 | 朝阳县 | 普格县 | 文成县 | 徐闻县 | 会泽县 | 娄烦县 | 福安市 | 平江县 | 双桥区 | 错那县 | 台南县 | 南郑县 | 西乡县 | 麻栗坡县 | 灵台县 | 金堂县 | 汶上县 | 探索 | 武城县 | 绥德县 | 清流县 | 营山县 | 玛纳斯县 | 林口县 | 铜陵市 | 阳信县 | 化州市 | 霍邱县 | 泰来县 | 朔州市 | 柏乡县 | 潞西市 | 夏邑县 | 彩票 | 东平县 | 图片 | 南乐县 | 土默特左旗 | 台东县 | 临安市 | 沙洋县 | 谢通门县 | 丰镇市 | 广丰县 | 鱼台县 | 西乡县 | 区。 | 信宜市 | 邹城市 | 武陟县 | 桐乡市 | 贵德县 | 湖北省 | 彰化县 | 茶陵县 | 昌都县 | 延庆县 | 宝清县 | 凌云县 |