SparkSQL数据类型

刘超 6小时前 ⋅ 151 阅读   编辑

目录

  1、数据类型介绍
  2、与Scala数据类型对照
  3、与Java数据类型对照
  4、对Python数据类型对照

 

一、数据类型介绍

分类 类型名 描述
数值型
ByteType 代表一个字节的整数。范围是-128到127
ShortType 代表两个字节的整数。范围是-32768到32767
IntegerType 代表4个字节的整数。范围是-2147483648到2147483647
LongType 代表8个字节的整数。范围是-9223372036854775808到9223372036854775807
FloatType 代表4字节的单精度浮点数
DoubleType 代表8字节的双精度浮点数
DecimalType 代表任意精度的10进制数据。通过内部的java.math.BigDecimal支持。BigDecimal由一个任意精度的整型非标度值和一个32位整数组成
字符串 StringType 代表一个字符串值
二进制 BinaryType 代表一个byte序列值
布尔 BooleanType 代表boolean值
时间 TimestampType 代表包含字段年,月,日,时,分,秒的值
DateType 代表包含字段年,月,日的值
复杂类型 ArrayType(elementType, containsNull) 代表由elementType类型元素组成的序列值。containsNull用来指明ArrayType中的值是否有null值,使用示例
MapType(keyType, valueType, valueContainsNull) 表示包括一组键 - 值对的值。通过keyType表示key数据的类型,通过valueType表示value数据的类型。valueContainsNull用来指明MapType中的值是否有null值,使用示例
StructType(fields) 表示一个拥有StructFields (fields)序列结构的值,使用示例
StructField(name, dataType, nullable) 代表StructType中的一个字段,字段的名字通过name指定,dataType指定field的数据类型,nullable表示字段的值是否有null值

二、与Scala数据类型对照

  Spark的所有数据类型都定义在包org.apache.spark.sql中,你可以通过import org.apache.spark.sql._访问它们。

数据类型 Scala中的值类型 访问或者创建数据类型的API
ByteType Byte ByteType
ShortType Short ShortType
IntegerType Int IntegerType
LongType Long LongType
FloatType Float FloatType
DoubleType Double DoubleType
DecimalType scala.math.BigDecimal DecimalType
StringType String StringType
BinaryType Array[Byte] BinaryType
BooleanType Boolean BooleanType
TimestampType java.sql.Timestamp TimestampType
DateType java.sql.Date DateType
ArrayType scala.collection.Seq ArrayType(elementType, [containsNull]) 注意containsNull默认为true
MapType scala.collection.Map MapType(keyType, valueType, [valueContainsNull]) 注意valueContainsNull默认为true
StructType case class udf定义的case class会被弄成structs,注意fields是一个StructField序列,相同名字的两个StructField不被允许
StructField The value type in Scala of the data type of this field (For example, Int for a StructField with the data type IntegerType) StructField(name, dataType, nullable)
WrappedArray(遇到问题

三、与Java数据类型对照

四、对Python数据类型对照


注意:本文归作者所有,未经作者允许,不得转载

全部评论: 0

    我有话说: