博客
关于我
强烈建议你试试无所不能的chatGPT,快点击我
【Hive五】Hive函数UDF
阅读量:6173 次
发布时间:2019-06-21

本文共 1433 字,大约阅读时间需要 4 分钟。

Hive函数

系统自带的函数

查看系统自带的函数

  • 查看系统自带的函数

    show functions;

  • 显示自带的函数的用法

    desc function upper;

  • 详细显示自带的函数的用法

    desc function extended upper;

自定义函数描述

描述

当Hive提供的内置函数无法满足你的业务处理需要时,此时就可以考虑使用用户自定义函数(UDF:user-defined function),详情请查看:

根据用户自定义函数类别分为以下三种

  • UDF(User-Defined-Function)

    一进一出

  • UDAF(User-Defined Aggregation Function)

    聚集函数,多进一出

    类似于:count/max/min

  • UDTF(User-Defined Table-Generating Functions)

    一进多出

    如lateral view explore()

自定义开发步骤(UDF)

  • 继承org.apache.hadoop.hive.ql.UDF

  • 需要实现evaluate函数;evaluate函数支持重载

  • 在hive的命令行窗口创建函数

    1. 添加jar

      add jar linux_jar_path

    2. 创建function

      create [temporary] function [dbname] function_name AS class_name

  • 在hive命令窗口删除函数

    1. Drop [temporary] function [if exists] [dbname.] function_name;
  • 注意事项

    1. UDF必须要有返回类型,可以返回null,但是返回类型不能为void

    2. UDF中常用Text/LongWritable等类型,不推荐使用java类型

开发案例(UDF)

  • 创建一个java工程,并创建一个lib文件夹

  • 将hive的jar包解压后,将apache-hive-1.2.1-bin\lib文件下的jar包都拷贝到java工程中

  • 创建一个类

    package com.demo.hive;import org.apache.hadoop.hive.ql.exec.UDF;public class Lower extends UDF {    public String convert(final String s) {        if (s == null) {            return null;        }        return s.toString().toLowerCase();    }}
  • 打成jar包上传到服务器/opt/module/jars/udf.jar

  • 将jar包添加到hive的classpath

    hive (default)> add jar /opt/module/jars/udf.jar;

  • 创建临时函数与开发好的java class关联

    hive (default)> create temporary function my_lower as "com.demo.udf.Lower";

  • 即可在hql中使用自定义的函数strip

    select ename, my_lower(ename) lowername from emp;

转载于:https://www.cnblogs.com/screen/p/9116540.html

你可能感兴趣的文章
解决 error: gnu/stubs-32.h: No such file or directory
查看>>
imread 函数 的相关细节
查看>>
分布式和事务
查看>>
C#学习常用类(1002)---KeyValuePair<TKey, TValue> 结构
查看>>
浅谈grep命令查找匹配内容的使用、参数、正则
查看>>
Java Web笔记 – Servlet中的Filter过滤器的介绍和使用 编写过滤器
查看>>
利用WPS文字制作电子印章
查看>>
磁盘配额
查看>>
UserInputControls用户输入控制
查看>>
我的友情链接
查看>>
Nginx+Lua架构开发目录贴
查看>>
mysql备份方法(热备)
查看>>
scala匿名函数
查看>>
vlan技术【实现】vlan简介和SVI实现不同vlan间通信
查看>>
scrapy爬虫初步尝试
查看>>
Spring 依赖检查
查看>>
陈松松:视频制作不出来,跟这7个思维有九成关系
查看>>
形参和实参有何区别
查看>>
我的友情链接
查看>>
MySQL表结构的导入和导出MySQL表结构的导入和导出
查看>>