前端JavaScript实现大数据前后模糊搜索的方法详解

 更新时间:2023年12月26日 09:57:06   作者:孙迅  
这篇文章主要为大家详细介绍了前端JavaScript实现大数据前后模糊搜索的四个常见方法,文中的示例代码讲解详细,感兴趣的小伙伴可以了解下

一、背景

在特定的一些场景中,服务端可能会返回我们大量的数据,并希望在前端处理模糊查询。我们可以参考一下方案,如果有更好的实现方案可以直接添加。

二、解决方案

1、indexedDB

目前主流前端存储方案:

特性cookielocalStoragesessionStorageindexedDB
数据生命周期一般由服务器生成,可以设置过期时间;前端采用和js-cookie等组件也可以生成除非被清理,否则一直存在;浏览器关闭还会保存在本地,但是不支持跨浏览器页面关闭就清理刷新依然存在,不支持跨页面交互限制为可用磁盘空间的 50%。
数据存储大小4K5M5M不限制大小
与服务端通信每次都会携带在请求的header 中,对于请求性能有影响;同时由于请求中都带有,所以也容易出现安全问题不参与不参与不参与
特点字符串键值对在本地存储数据字符串键值对在本地存储数据字符串键值对在本地存储数据可以存储大量数据,提供接口来查询,还可以建立索引

IndexedDB是个非关系型数据库,那我们也可以去进行查询搜索。对于搜索速度方面可能不是最优解,但是要考虑业务实现,例如:我们有一个接口,接口数据更新不是那么频繁,并且数据量非常大,调用接口时间可能会很久,搜索某一项或者某个开始的可能会更好点。

function init() {
  // 打开 IndexedDB 数据库
  const openDB = window.indexedDB.open("myDatabase", 1);
  // 新建数据库和数据库版本号发生变化时才被调用
  openDB.onupgradeneeded = function (event) {
    const db = event.target.result;
    // 创建对象存储空间
    const objectStore = db.createObjectStore("myObjectStore", {
      keyPath: "code",
    });
    // 添加索引
    // objectStore.createIndex("code", "code");
    objectStore.createIndex("pCode", "pCode", { unique: false });
    objectStore.createIndex("name", "name", { unique: false });
  };

  openDB.onsuccess = async function (event) {
    const db = event.target.result;
    const dataArray = data;
    // 获取事务对象
    const transaction = db.transaction(["myObjectStore"], "readwrite");
    // 获取对象存储空间
    const objectStore = transaction.objectStore("myObjectStore");

    // 向对象存储添加对象
    dataArray.forEach(function (data) {
      const addRequest = objectStore.add(data);

      addRequest.onsuccess = function () {
        console.log("数据已成功添加到对象存储");
      };

      addRequest.onerror = function (error) {
        console.error("添加数据时发生错误", error);
      };
    });
  };
}
function search() {
  window.result = [];
  // 打开数据库
  const openRequest = window.indexedDB.open("myDatabase", 1);
  // 打开数据库成功回调
  openRequest.onsuccess = function (event) {
    // 数据库对象
    const db = event.target.result;
    // 打开只读事务并获取对象存储 readwrite 读写  readonly 只读
    const transaction = db.transaction(["myObjectStore"], "readonly");
    // 获取myObjectStore对象存储空间的引用
    const objectStore = transaction.objectStore("myObjectStore");
    // 获取 name 索引
    const index = objectStore.index("name");
    // 打开游标
    const request = index.openCursor(); // 全部数据
    // const request = index.openCursor(searchKey); // 精准匹配
    // const request = index.openCursor(
    //   IDBKeyRange.bound(searchKey, searchKey + "\uffff", false, false)
    // ); // 后模糊
    const startTime = new Date().getTime();
    request.onsuccess = function (event) {
      const cursor = event.target.result;
      if (cursor) {
        const name = cursor.value.name;
        // 判断 name 是否包含搜索关键字 如果是后模糊的话 直接拿name就行
        if (regex.test(name)) {
          result.push(cursor.value);
        }
        cursor.continue();
      } else {
        const endTime = new Date().getTime();
        console.log(`搜索耗时:${endTime - startTime}`);
        console.log(result);
      }
    };

    request.onerror = function () {
      console.error("执行搜索时发生错误");
    };
  };
  // 打开数据库失败回调
  openRequest.onerror = function () {
    console.error("打开数据库时发生错误");
  };
}

2、Trie tree(字典树)

其原理:就是将所有的字都拆分,并将后面的字全部拆分加入自己的孩子节点里面。其实更加契合后模糊匹配,如果是需要前后模糊匹配,需要全部遍历,性能也不是最佳。

class TrieNode {
  constructor() {
    this.children = new Map(); // 用于存储当前节点的子节点
    this.isEndOfWord = false; // 表示当前节点是否是一个单词的结尾
    this.values = []; // 用于存储与当前节点关联的值
  }
}

class Trie {
  constructor() {
    this.root = new TrieNode();
  }
  // 如果当前字符不存在于当前节点的子节点中,则创建一个新的子节点,
  // 并将其添加到子节点Map中。然后,将当前节点更新为新的子节点,继续遍历下一个字符。
  // 当遍历完所有字符后,将当前节点的isEndOfWord属性设置为true,表示该节点是一个单词的结尾。
  // 同时,将与该单词关联的值添加到当前节点的values数组中。
  insert(word, value) {
    let node = this.root;
    for (let i = 0; i < word.length; i++) {
      const char = word[i];

      if (!node.children.has(char)) {
        node.children.set(char, new TrieNode());
      }
      node = node.children.get(char);
    }
    node.isEndOfWord = true;
    node.values.push(value);
  }

  // 递归地收集以给定节点为根的子树中所有单词的关联值。如果当前节点是一个单词的结尾
  // 则将该节点的所有关联值添加到结果集合中。然后,对当前节点的每个子节点
  // 递归调用collectValues方法。
  collectValues(node, results) {
    if (node.isEndOfWord) {
      for (const value of node.values) {
        results.add(value);
      }
    }
    for (const childNode of node.children.values()) {
      this.collectValues(childNode, results);
    }
  }

  // 模糊搜索与给定关键字匹配的单词,并返回匹配到的所有关联值。该方法首先创建一个空的
  // Set对象results,用于存储结果。然后,调用collectSuffixValues方法,
  // 从根节点开始递归地搜索与关键字匹配的单词,并将匹配到的关联值添加到results中。
  // 最后,将results转换为数组并返回。
  fuzzySearch(keyword) {
    const results = new Set();
    this.collectSuffixValues(this.root, keyword, results);
    return Array.from(results);
  }

  // 递归地搜索与给定关键字后缀匹配的单词,并将匹配到的关联值添加到结果集合中。
  // 如果关键字的长度为0,表示已经匹配到了关键字的末尾,此时调用collectValues方法,
  // 将当前节点及其子树中的所有关联值添加到结果集合中。
  // 否则,取关键字的第一个字符char,并获取当前节点的子节点childNode。
  // 如果childNode存在,则递归调用collectSuffixValues方法,
  // 将关键字的剩余部分和childNode作为参数传递。
  // 然后,对当前节点的每个子节点,递归调用collectSuffixValues方法,
  // 将关键字和结果集合作为参数传递
  collectSuffixValues(node, keyword, results) {
    if (keyword.length === 0) {
      this.collectValues(node, results);
    } else {
      const char = keyword[0];
      const childNode = node.children.get(char);
      if (childNode) {
        this.collectSuffixValues(childNode, keyword.slice(1), results);
      }
    }
    for (const childNode of node.children.values()) {
      this.collectSuffixValues(childNode, keyword, results);
    }
  }
}

async function search() {
  // 示例用法
  const trie = new Trie();
  const dataArray = await getJSON();
  dataArray.forEach((item) => {
    trie.insert(item.name, item);
  });
  const startTime = new Date().getTime();
  const results = trie.fuzzySearch("总部");
  const endTime = new Date().getTime();
  console.log(`搜索耗时:${endTime - startTime}`);
  console.log(trie, "results", results);
}
search();

3、Fuse(第三方组件库)

Bitap算法是fuse.js中用于实现模糊搜索的核心算法之一,其主要思路是利用位运算来计算模式串和目标串之间的相似度。具体来说,Bitap算法首先将模式串转换为二进制掩码,并利用位运算来计算模式串和目标串之间的相似度,然后采用一些启发式策略来提高算法的准确性和效率。其他讲解

function search() {
  const startTime = new Date().getTime();
  const fuseOptions = {
    // isCaseSensitive: false, // 指示比较是否应区分大小写。
    // includeScore: true, // 分数是否应包含在结果集中。分数0表示完全匹配,分数1表示完全不匹配。
    // shouldSort: true, // 是否按分数对结果列表进行排序。
    // includeMatches: true, // 匹配是否应包含在结果集中。当 时true,结果集中的每条记录都将包含匹配字符的索引。因此,这些可以用于突出显示的目的。
    // findAllMatches: true, // 当为 true 时,匹配函数将继续到搜索模式的末尾,即使已在字符串中找到完美匹配。
    // minMatchCharLength: 1, // 仅返回长度超过该值的匹配项。(例如,如果您想忽略结果中的单个字符匹配,请将其设置为2)。
    // location: 0, // 确定预期在文本中找到的模式的大概位置。
    // threshold: 0.6, // 匹配算法在什么时候放弃。阈值0.0需要完美匹配(字母和位置),阈值1.0可以匹配任何内容
    // distance: 100, // 确定匹配与模糊位置的接近程度(由 指定location)。distance远离模糊位置的字符的精确字母匹配将被评分为完全不匹配。A distanceof0要求匹配精确指定location。距离1000需要在使用of找到的800字符内有完美匹配。locationthreshold0.8
    // ignoreLocation: true, // true,搜索将忽略location和distance,因此模式出现在字符串中的位置并不重要。
    // ignoreFieldNorm: true, //true,相关性得分(用于排序)的计算将忽略字段长度范数。
    // fieldNormWeight: 1, // 确定字段长度范数对评分的影响程度。值0相当于忽略字段长度范数。值0.5将大大降低字段长度范数的影响,而值2.0将大大增加字段长度范数的影响。
    keys: ["name"],
  };
  const fuse = new Fuse(data, fuseOptions);
  const searchPattern = "肉食总部人力资源部";
  result = fuse.search(searchPattern);
  const endTime = new Date().getTime();
  console.log(`搜索耗时:${endTime - startTime}`);
  console.log(result);
}
配置项描述默认值说明
keys要搜索的键的列表。它支持嵌套路径、加权搜索、在字符串和对象数组中搜索。
isCaseSensitive是否区分大小写false
includeScore分数是否应包含在结果集中false分数0表示完全匹配,分数1表示完全不匹配。
shouldSort是否按分数对结果列表进行排序。true
includeMatches匹配是否应包含在结果集中。
findAllMatches匹配是否应全部在结果集中。false当为 true 时,匹配函数将继续到搜索模式的末尾,即使已在字符串中找到完美匹配。
minMatchCharLength仅返回长度超过该值的匹配项。1如果您想忽略结果中的单个字符匹配,请将其设置为2
location确定预期在文本中找到的模式的大概位置。0
threshold匹配算法在什么时候放弃0.6阈值0.0需要完美匹配(字母和位置),阈值1.0可以匹配任何内容
distance确定匹配与模糊位置的接近程度(由 指定location)100distance远离模糊位置的字符的精确字母匹配将被评分为完全不匹配。A distanceof0要求匹配精确指定location。距离1000需要在使用of找到的800字符内有完美匹配。locationthreshold0.8
ignoreLocation搜索将忽略location和distancefalse
ignoreFieldNorm相关性得分(用于排序)的计算将忽略字段长度范数false
fieldNormWeight确定字段长度范数对评分的影响程度。1值0相当于忽略字段长度范数。值0.5将大大降低字段长度范数的影响,而值2.0将大大增加字段长度范数的影响。

4、前缀(Trie)树+交集实现模糊搜索

之前我们提过的第二种方案更适合前缀查询,但是我们通过循环整个树的话,是可以实现前后模糊查询,但不是最佳方案,如果是前后模糊查询,更加推荐以下这种方案。

我们之前是将数组种的文字第一个进行一个拆解。其实我们可以转换一种思路,通过将所有的字都拆解,然后每个树结点中有一个字段储存所有包含这个字的唯一索引。

let array = [{id:1,name:"总部"},{id:2,name:"总"},{id:3,name:"部"}]

let result = {"总":{ids:[1,2]},"部":{ids:[1,3]}}

当我们输入“总”字时,结果应该为1,2;

输入部时,结果应该为1,3;

输入总部时,结果应该为1;

其实在输入总部的时候也就是取两个字的交集,他们共同含有的1

如果搜索的是多个字的话也是同样的道理,取每个字的索引,找出它们的交集,也就是他们的搜索结果,同时也可以实现,总*部、总部**等,这种包含的情况。

以上就是前端JavaScript实现大数据前后模糊搜索的方法详解的详细内容,更多关于JavaScript模糊搜索的资料请关注脚本之家其它相关文章!

相关文章

最新评论