SPARK August 19, 2018

创建DataFrame的几种方式

Words count 8.4k Reading time 8 mins.

如要生成如下的DataFrame数据

+----+---+-----------+
|name|age|      phone|
+----+---+-----------+
|ming| 20|15552211521...
Read article

SPARK August 19, 2018

创建DataFrame的几种方式

Words count 8.4k Reading time 8 mins.

如要生成如下的DataFrame数据

+----+---+-----------+
|name|age|      phone|
+----+---+-----------+
|ming| 20|15552211521|
|hong| 19|13287994007|
| zhi| 21|15552211523|
+----+---+-----------+

第一种:通过Seq生成

val spark = SparkSession
  .builder()
  .appName(this.getClass.getSimpleName...
Read article

LINUX August 19, 2018

shell编程积累

Words count 2.6k Reading time 2 mins.

给定变量 str=home/user/test.jar

export str="home/user/test.jar"
echo $str
home/user/test.jar

1.#截取

删除指定字符的左侧字符,保留右侧字符

从左到右找到第一个匹配的字符,然后进行截取

echo ${str#*/}
user/test.jar

2.##截取

同样是删除指定字符的左侧字符,保留右侧字符

但是##是从左到右找到最后一个匹配的字符,然后进行截取

echo $&...
Read article

项目开发记录 August 19, 2018

解决单点登录后ambari登录页、集群创建页闪跳问题

Words count 916 Reading time 1 mins.

登录页闪跳

注释掉一下内容,大约在app.js 93006行

  /*
  connectOutlets: function (router, context) {
            $('title').text(Em.I18n.t('app.name'));
            router.get('applicationController').connectOutlet('login');
        },

        serialize: function (router...
Read article

SPARK August 19, 2018

sparkML特征向量合并和拆分

Words count 3.9k Reading time 4 mins.

VectorAssembler(特征向量合并)是spark ml包里提供的算法, 但是对于向量拆分,官方没有听方法,这里从GitHub上看到一个向量拆分的算法,一起贴出来学习研究。

摘录官网翻译:

VectorAssembler 是将给定的一系列的列合并到单个向量列中的transformer。它可以将原始特征和不同特征transformers(转换器)生成的特征合并为单个特征向量,来训练ML模型,如逻辑回归和决策树等机器学习算法。

VectorAssembler可以接受一下的输入类型:所有值类型...

Read article

项目开发记录 August 19, 2018

秒杀系统高并发api优化

Words count 7.7k Reading time 7 mins.

用户大量刷新页面,用户访问的静态资源、css、js都部署在CDN上,用户访问时,是不会访问到我们的服务器上的,所以,这个时候的时间是不可控的也不是同步的。所以我们需要一个统一的api来,来获取系统服务器上的一致性的时间。

CDN的理解:

CDN(内容分发网络)加速用户获取数据的系统

部署在离用户最近的网络节点上

命中CDN不需要访问后端服务器

互联网公司自己搭建或者租用

无法使用CDN缓存,适合服务器端缓存:redis等,一致性维护成文低

秒杀地址接口优化

请求地址 访问 redis 如果没有在访问...

Read article

SPRING August 19, 2018

spring与mybatis整合解决java没有保存形参记录的问题

Words count 1.5k Reading time 1 mins.

接口方法:

List<Seckill> queryAll(int offset,int limit);

SQL:

    <select id="queryAll" resultType="Seckill">
        SELECT seckill_id,name,number,start_time,end_time,create_time
        FROM seckill
        ORDER BY create_time DESC
        limit #{offset...
Read article

MONGODB August 19, 2018

Springboot项目整合MongoDB

Words count 13k Reading time 12 mins.

本文主要记录在Springboot项目中整合MongoDB,并演示增删改查,以及分页查询。

1.1 引入依赖

在sparingboot项目中引入MongoDB依赖

<!--mongodb-->
<dependency>
    <groupId>org.springframework.boot</groupId>
    <artifactId>spring-boot-starter-data-mongodb</artifactId>
<...
Read article

SPRING August 19, 2018

Springmvc 文件上传

Words count 9.6k Reading time 9 mins.

jsp

<!DOCTYPE html>
<%@ page contentType="text/html;charset=UTF-8" language="java" %>
<html>
<head>
    <%--引入meta标签--%>
    <%@include file="common/meta.jsp" %>
    <title>bootstrap上传</title...
Read article

SPRING August 19, 2018

Springmvc过滤器

Words count 8.2k Reading time 7 mins.

过滤源–过滤规则–过滤结果

过滤器是否能改变用户请求的web资源呢?也就是能否改变用户请求的路径?

可以

过滤器能否直接返回数据,能不能直接处理用户请求?

不能

假如有两个过滤器,TestFilter、SecondFilter,他们的执行顺序如下:

start______doFilter_________TestFilter
start_________________doFilter____________SecondFilter

end_________________doFilter________________...

Read article

SPRING August 19, 2018

springmvc整合七牛云存储实现文件上传(java篇)

Words count 4.4k Reading time 4 mins.

在springmvc上传文件到本地的基础上,整合七牛云存储,实现简单的上传功能。

首先maven配置依赖

<!--七牛依赖-->
<dependency>
  <groupId>com.qiniu</groupId>
  <artifactId>sdk</artifactId>
  <version>6.1.7</version>
</dependency>
<dependency>
  <...
Read article
Load more
0%