溫馨提示×

溫馨提示×

您好,登錄后才能下訂單哦!

密碼登錄×
登錄注冊×
其他方式登錄
點擊 登錄注冊 即表示同意《億速云用戶服務條款》

Hive中InputFormat、OutputFormat與SerDe怎么用

發布時間:2021-12-10 09:33:08 來源:億速云 閱讀:566 作者:小新 欄目:大數據

這篇文章主要介紹Hive中InputFormat、OutputFormat與SerDe怎么用,文中介紹的非常詳細,具有一定的參考價值,感興趣的小伙伴們一定要看完!

Hive中,默認使用的是TextInputFormat,一行表示一條記錄。在每條記錄(一行中),默認使用^A分割各個字段。

在有些時候,我們往往面對多行,結構化的文檔,并需要將其導入Hive處理,此時,就需要自定義InputFormat、OutputFormat,以及SerDe了。

首先來理清這三者之間的關系,我們直接引用Hive官方說法:

SerDe is a short name for “Serializer and Deserializer.”
Hive uses SerDe (and !FileFormat) to read and write table rows.
HDFS files –> InputFileFormat(RecordReader) –> <key, value> –> Deserializer –> Row object
Row object –> Serializer –> <key, value> –> OutputFileFormat(recordwriter) –> HDFS files

總結一下,當面臨一個HDFS上的文件時,Hive將如下處理(以讀為例):

(1) 調用InputFormat,將文件切成不同的文檔。每篇文檔即一行(Row)。
(2) 調用SerDe的Deserializer,將一行(Row),切分為各個字段。

當HIVE執行INSERT操作,將Row寫入文件時,主要調用OutputFormat、SerDe的Seriliazer,順序與讀取相反

以上是“Hive中InputFormat、OutputFormat與SerDe怎么用”這篇文章的所有內容,感謝各位的閱讀!希望分享的內容對大家有幫助,更多相關知識,歡迎關注億速云行業資訊頻道!

向AI問一下細節

免責聲明:本站發布的內容(圖片、視頻和文字)以原創、轉載和分享為主,文章觀點不代表本網站立場,如果涉及侵權請聯系站長郵箱:is@yisu.com進行舉報,并提供相關證據,一經查實,將立刻刪除涉嫌侵權內容。

AI

亚洲午夜精品一区二区_中文无码日韩欧免_久久香蕉精品视频_欧美主播一区二区三区美女