Simple词典
Simple词典首先将输入标记转换为小写字母,然后检查停用词表。如果识别为停用词则返回空数组,即表示该标记会被丢弃。否则,输入标记的小写形式作为规范化后的lexeme返回。此外,Simple词典可通过设置参数Accept为false(默认值true),将非停用词报告为未识别,传递给后继词典继续处理。
注意事项
- 大多数词典的功能依赖于词典定义文件,词典定义文件名仅支持小写字母、数字、下划线组合。
- 临时模式pg_temp下不允许创建词典。
- 词典定义文件的字符集编码必须为UTF-8格式。实际应用时,如果与数据库的字符编码格式不一致,在读入词典定义文件时会进行编码转换。
- 通常情况下,每个session仅读取词典定义文件一次,当且仅当在第一次使用该词典时。需要修改词典文件时,可通过ALTER TEXT SEARCH DICTIONARY命令进行词典定义文件的更新和重新加载。
操作步骤
- 创建Simple词典。
1. openGauss=# CREATE TEXT SEARCH DICTIONARY public.simple_dict (
2. TEMPLATE = pg_catalog.simple,
3. STOPWORDS = english
4. );
其中,停用词表文件全名为english.stop。关于创建simple词典的语法和更多参数,请参见CREATE TEXT SEARCH DICTIONARY。 2. 使用Simple词典。
``` 1. openGauss=# SELECT ts_lexize('public.simple_dict','YeS'); 2. ts_lexize 3. ----------- 4. {yes} 5. (1 row)
- openGauss=# SELECT ts_lexize('public.simple_dict','The');
- ts_lexize
-
- {}
- (1 row) ```
- 设置参数ACCEPT=false,使Simple词典返回NULL,而不是返回非停用词的小写形式。
``` 1. openGauss=# ALTER TEXT SEARCH DICTIONARY public.simple_dict ( Accept = false ); 2. ALTER TEXT SEARCH DICTIONARY 3. openGauss=# SELECT ts_lexize('public.simple_dict','YeS'); 4. ts_lexize 5. -----------
-
(1 row)
-
openGauss=# SELECT ts_lexize('public.simple_dict','The');
- ts_lexize
-
- {}
- (1 row) ```
